Ein Textgenerator wie Copilot ist KEINE SUCHMASCHINE! Es ist unglaublich wichtig, dass wir dies berücksichtigen, wenn wir KI-Tools nutzen, und es am besten gleich in die interne KI-Richtlinie reinschreiben.
Hier ein besonders krasser Fall, der zeigt, was passieren kann, wenn wir einen Textgenerator wie z.B. Copilot von Microsoft als Suchmaschine nutzen:
💣 👨🏼💻 Bei der «Suche» nach Informationen über Martin Bernklau wird dieser plötzlich zum Kinderschänder.
💣 👨🏼💻 Grund ist, dass Bernklau als Journalist für verschiedene Zeitungen über Prozesse aus dem Landgericht Tübingen berichtete. Nun «kombiniert» das KI-Tool diese Informationen über Fälle von Missbrauch, Gewalt und Betrug mit der Person Martin Bernklau.
💣 👨🏼💻 «Copilot will unbedingt antworten und spuckt dann etwas aus.» Jessica Heesen, Medienethikerin Uni Tübingen
⛔️ Bernklau ist über das Ergebnis verständlicherweise mehr als schockiert: Copilot bezeichnet ihn als verurteilten Kinderschänder, Ausbrecher aus der Psychiatrie oder Witwenbetrüger!
⛔️ Bernklau versucht sich zu wehren, doch seine Strafanzeige wegen übler Nachrede wurde abgelehnt. Urheber der Behauptung ist keine reale Person (sondern die KI), so die Begründung.
⛔️ Microsoft nimmt übernimmt keine Haftung für die Ergebnisse seines Textgenerators Copilot. So steht es in den Nutzungsbedingungen, mit welchen wir uns als Nutzer:innen von Copilot einverstanden erklären.
Was lernen wir aus diesem Fall?
👩🏻💻 Wir Nutzer:innen müssen lernen, wie KI-Tools grundsätzlich funktionieren – was gut machbar ist! Denn daraus lassen sich direkt wichtige Potenziale und Grenzen ableiten.
👩🏻💻 Unternehmen sollten eine KI-Richtlinie erstellen, denn das schafft Orientierung. Zum Beispiel darf ein Textgenerator nicht mit einer Suchmaschine verwechselt werden. Ich wiederhole mich da gerne.
👩🏻💻 Lasst uns ChatGPT & Co. mit Herz und Verstand einsetzen! 🧠
🚀 Ich biete die zwei Online-Kurse «KI-Tools verantwortungsvoll einsetzen» und «Wirkungsvolle Leitlinien für KI entwickeln» regelmässig an. Die Termine publiziere ich regelmässig auf meiner Website.
🚀 Generative KI ist auch ein wichtiges Thema im CAS Digital Ethics an der Hochschule für Wirtschaft Zürich (HWZ). Die 6. Durchführung startet im Februar 2025. Für Interessierte gibt es u.a. regelmässige Informationsveranstaltungen.
🚀 Auf der Website soekia.ch wird anschaulich aufgezeigt, wie eine Suchmaschine aufgebaut ist und wie ein Textgenerator wie ChatGPT. PS: KI-Tools wie perplexity.ai kombinieren diese beiden Systeme. Doch auch hier können Unwahrheiten enthalten sein.
Hinweis: Anlass ist der Artikel «KI-Chat macht Tübinger Journalisten zum Kinderschänder» über Martin Bernklau (16.8.2024).
Bild: Foto von Martin Bernklau gemäss Artikel