Ein Textgenerator ist KEINE SUCHMASCHINE! Dies betone ich seit 2 Jahren und stosse dabei immer noch auf viel Erstaunen und freudige Aha-Momente. Ich kann gut verstehen, weshalb es uns schwer fällt, das zu verstehen.
Wir gehen intuitiv aus, dass das Ergebnis eines KI-Tools wie ChatGPT auf tatsächlich vorhandenen Informationen beruht, so wie wir es von der Suchmaschine kennen. Doch dies ist falsch.
Ein Sprachmodell wird mit extrem vielen Informationen trainiert, zum Beispiel Wikipedia, Fachartikel, Informationen auf Websites etc. Im Sprachmodell selber ist kein einziger Text mehr enthalten. Basierend auf dem, was das Sprachmodell gelernt hat, wird komplett neuer Text generiert.
Diesen Mechanismus zu verstehen ist enorm wichtig! Denn dadurch wird zum Beispiel klar, weshalb Quellenangaben nicht möglich sind (es gibt keine «Quelle» im klassischen Sinne) und weshalb das Ergebnis falsch sein kann (es ist ein fiktionaler Text, basierend auf Wahrscheinlichkeiten).
Fazit: Nur wer die technologische Basis versteht, kann auch die Chancen und Risiken von ChatGPT & Co. eigenständig einschätzen. Und wird einen Textgenerator hoffentlich nicht (mehr) als Suchmaschine nutzen. 😊
Wer mehr wissen möchte:
🔎 Mein Blogpost zu diesem Thema vor rund einem Jahr: Nein, ChatGPT ist keine Suchmaschine!
🔎 Mein Blogpost zur «Suchmaschine» der Zukunft: Ist Perplexity das neue Google?
🔎 Wer sich mit aktuellen Fragen rund um KI auseinandersetzen möchte, Einblick in angesagte KI-Tools erhalten möchte oder deren verantwortungsvollen Einsatz: Auf meiner Website findet ihr mehr Infos zu meiner Veranstaltungsreihe Shift und entsprechenden (Online-) Kursen.
Ergänzung: Die unterschiedliche Logik einer Suchmaschine und eines Textgenerators wird bei soekia.ch anschaulich gezeigt. Oder ihr könnt bei einem KI-Tool wie ChatGPT die Frage eingeben: Ist ein Textgenerator eine Suchmaschine?
Bild: Screenshot des Artikels heute in der Printausgabe der NZZ.
Hinweis: Dieser Post entstand auf einer kurzen Zugfahrt (deshalb könnte man nachträglich noch einiges klarer formulieren) und er ging auf LinkedIn im wahrsten Sinne des Wortes viral mit rund 2000 Likes und zahlreichen Kommentaren. Es ist der bisher mit grössem Abstand Reichweiten stärkste Post.