«Wir dürfen uns nicht von Schreckensszenarien einschüchtern lassen», so Melanie Mitchell. Soooo wichtig! Der Schaden ist angerichtet, aber das nächste Schreckensszenario kommt bestimmt. Deshalb: Gönnt euch die Expertise von Melanie Mitchell! Sie hat auch einen sehr informativen Newsletter, den ich wärmstens empfehlen kann.
Hier ein paar Einschätzungen aus dem Interview in der NZZ vom 3. Oktober (Seite 53):
👩🚒 Melanie Mitchell hält die Erzählung, dass KI die Menschheit auslöschen könnte, für sehr unwahrscheinlich. «Es ist schwierig, uns alle zu töten, solange wir KI nicht die Kontrolle über unsere Atomwaffen anvertrauen – das wäre eine schlechte Idee.» (PS: wir = Menschen)
👩🚒 Statt über fiktive Risiken zu sprechen, sollten wir uns den realen Risiken annehmen. Zum Beispiel die Gefahr, dass wir unser eigenständiges Denken verlieren, dass wir nicht mehr wissen, was echt ist oder dass kritische Infrastruktur zu wenig vor Cyberangriffen geschützt ist (Spitäler, Energiefirmen etc.).
👩🚒 «Ich persönlich glaube nicht, dass die Modelle menschenähnliche Wünsche haben. Sie wurden trainiert, bestimmte Ziele zu erreichen, und tun das bisweilen auf unbeabsichtigte Weise.» (Hinweis: Während dem Training von KI-Modellen gibt es Belohnungssysteme für die Zielerreichung, egal, wie diese Ziele erreicht werden.)
👩🚒 «Ich glaube, der Fokus liegt zu sehr auf diesen sehr allgemein einsetzbaren KI-Systemen wie ChatGPT oder Claude und zu wenig auf spezialisierten KI-Systemen. Letztere könnten bestimmte Aufgaben sehr, sehr gut erfüllen (…).»
👩🚒 «Wir müssen uns nicht nur bewusst machen, was diese Systeme können, sondern auch, was sie nicht können.»
⛑️ Und einen Hinweis von Mitchell finde ich besonders wichtig: Wir sollten hinterfragen, wie Begriffe wie «KI-Agenten» unsere Wahrnehmung darüber beeinflussen, was diese Agenten überhaupt sind. Es sind keine Systeme, die wie in einem Science Fiction Film den Wunsch haben, die Menschheit zu zerstören. Auch den Vergleich, dass ein KI-System wie ein menschliches Hirn funktioniert, hält sie für eher irreführend.
Diese Vermenschlichung von KI habe ich natürlich auch in meinem Buch verarbeitet 😉. Wer nichts verpassen möchte, abonniert sich am besten meinen Newsletter.
Melanie Mitchell: Abonnieren ihres Newsletters sowie Interview in der NZZ vom 3. Oktober 2026.
Über die Hintergrund der Schlagzeile, ob KI die Menschheit auslöschen könnte, haben wir auch in der neusten Podcast-Episode von DIETHELM & GENNER gesprochen: Könnte KI die Menschheit auslöschen?
Und last but not least: Um top-aktuelle Themen wie dieses geht es auch im CAS Digital Ethics an der HWZ.
Anlass für diesen Post auf LinkedIn war die neuste Podcast-Episode von DIETHELM & GENNER.