Wir Menschen sind soziale Wesen, weshalb wir nichtmenschlichen Dingen relativ schnell menschliche Eigenschaften zuschreiben. Doch ein KI-Chatbot empfindet nichts für uns und er verfolgt keine eigenen Absichten. Es ist nur Mathematik und Statistik.
Diesen Mechanismus zu verstehen, wird immer wichtiger, gerade auch mit Blick auf digitalethische Fragen. Hier ein paar spannende Gedanken aus dem Interview mit der Tech-Psychologin Martina Mara (NZZ von heute):
Mit der Lancierung von ChatGPT wurden KI-Systeme erstmals zu einem direkten Ansprechpartner. Diese Vermenschlichung begünstigt eine emotionale Beziehung, was uns beeinflussbarer macht.
Wer sich einsam fühlt, tendiert möglicherweise stärker dazu, Maschinen Menschlichkeit zuzuschreiben. Gleiches gilt für besonders empathische Menschen sowie für Frauen (weil Frauen bisher weniger KI-Bildung genossen).
In einem Experiment zum «Trolley-Problem» konnte Martina Mara zeigen, dass 17 Prozent der Menschen ihre Meinung zu einer ethischen Frage änderten, weil ihnen ChatGPT dazu geraten hatte.
Gerade bei ethisch-moralischen Fragen ist dieses Übervertrauen in die Antwort einer Maschine problematisch, denn nur Menschen können die Bedeutung der Konsequenzen abschätzen und Verantwortung übernehmen.
Die Effekte der Vermenschlichung von Maschinen können wir auch bei Robotern beobachten, zum Beispiel wenn wir Mitleid mit einem Staubsauger empfinden, der sich zwischen Stuhlbeinen festklemmt.
Zurück zu ChatGPT & Co: Ein regelmässiger Austausch mit einem «KI-Freund» könnte unser Bedürfnis nach Verbundenheit und nach Anerkennung teilweise stillen. Gleichzeitig sollten wir die gesellschaftlichen Risiken nicht unterschätzen: Hinter diesen «KI-Freunden» stehen Unternehmen mit klaren Absichten bzw. Geschäftsmodellen.
Im Moment lesen wir viele Medienberichte über Menschen, die sich in ihren «KI-Freund» verlieben oder ihn sogar heiraten. In diesem Kontext teile ich die Einschätzung von Martina Mara: «Ich bezweifle, dass simulierte romantische Beziehungen zu Chatbots ein Breitenphänomen werden. Aber ich glaube, dass viele Menschen KI als Alltagsprächspartner nutzen.» Sie vergleicht es mit einer Art Tagebuchschreiben.
Mich fasziniert dieses Thema sehr und im Kontext von agentischen Systemen sollten wir unser kritisches Denken auch in diesem Bereich dringend schärfen.
🔎 NZZ vom 14. März 2026: Tech-Psychologin Martina Mara: «Je einsamer der Mensch, desto stärker seine emotionale Reaktion auf den Roboter»
🔎 Auch beim Thema «AI Agents» wird die Vermenschlichung bewusst genutzt, was irreführend und gefährlich sein kann: Mein Blogpost über «AI Agents» – überschätzt oder nützlich? vom 7. Oktober 2025, deutlich vor der Lancierung von OpenClaw 😉
🔎 Das Zusammenspiel von Mensch und Maschine ist übrigens auch ein wichtiges Thema im CAS Digital Ethics (z.B. KI-Systeme, Avatare, Roboter), das ich als Studiengangsleiterin verantworten darf.