Das ist so wichtig zu verstehen! «Die KI berechnet lediglich, welches Wort am wahrscheinlichsten auf das vorangegangene folgt. Die Aussagen eines KI-Assistenten sind also Wahrscheinlichkeiten, keine überprüften Fakten.»
Mit dieser Erklärung von Digitalredaktor Juerg Tschirren, wie grosse Sprachmodelle (LLM) funktionieren, beginne ich jede KI-Schulung und jede Keynote zum Thema künstliche Intelligenz (KI).
Dieses Verständnis ist enorm wichtig, denn es erklärt ganz viele Limiten und unerwünschte Nebenwirkungen, die KI-Tools wie ChatGPT, Claude & Co. haben. Und die wir immer haben werden, auch wenn sie besser werden.
🚨 In einem Experiment von EBU und BBC war zum Beispiel fast jede dritte KI-generierte Antwort fehlerhaft!
🙋♀️ Und weil wir User:innen immer für das Ergebnis verantwortlich bleiben, wenn wir ein KI-Tool nutzen, bedeutet dies:
🔎 Wir müssen entscheiden, wo wir diese KI-Tools einsetzen können – und wo nicht. KI ist nicht die Lösung für alles.
🔎 Wir müssen in gute Prompts mit möglichst viel Kontext investieren. Wobei der Einfluss guter Prompts häufig überschätzt wird.
🔎 Wir müssen das Ergebnis überprüfen: Ist es korrekt und entspricht es dem, was wir benötigen und wollen? Hier ist kritisches Denken gefragt.
Hinweis: Auf meinen Post auf LinkedIn haben mehrere Personen darauf aufmerksam gemacht, dass das Ergebnis fortgeschrittener KI-Tools nicht mehr «nur» auf einem grossen Sprachmodell (LLM) beruht. Es gibt auch die Kombination mit RAG, Reasoning Modellen etc. was das Ergebnis besser macht. Natürlich ist das korrekt. Ich finde es einfach wichtig, in einem ersten Schritt zu erklären, wie ein grosses Sprachmodell (LLM) als Herzstück eines KI-Tools im Grundsatz funktioniert. Das Ergebnis wird basierend auf Wahrscheinlichkeiten berechnet, nicht indem das KI-Tool auf bestehende Inhalte aus einer Datenbank zurückgreift. Das ist wichtig zu verstehen und vielen Personen nicht bewusst. Anschliessend ist die Vermittlung weiterer Details sinnvoll.
Wer mehr wissen möchte:
👉🏾 Beitrag SRF: Fast jede dritte KI-Antwort enthält Fehler inkl. Link zur Studie von EBU und BBC (22.10.2025)
👉🏾 Tipps & Hintergrundinfos: Mein Newsletter erscheint 5-6 Mal pro Jahr. Die nächste Ausgabe erscheint bereits nächste Woche. Ihn jetzt zu abonnieren ist also ein guter Zeitpunkt. 😉 💌
Diese motivierende Rückmeldung auf meinen Newsletter habe ich zum Beispiel gestern erhalten: «Deinen Newsletter habe ich ebenfalls abonniert – gefällt mir, weil er einen anderen Fokus hat als viele andere Newsletter.»