Emotionserkennung: Spagat zwischen Manipulation und Innovation

Emotionserkennung kann gewinnbringend eingesetzt werden. Beispielsweise hilft sie autistischen Kindern, die Gefühle des Gegenübers zu erkennen. Oder sie unterstützt Patienten bei der Erfassung eines Schmerzprotokolls. Doch die Technologie ist anfällig für Fehler. Sie stützt sich auf die Theorie, dass es weltweit universelle Ausdrucksformen für Emotionen gibt, unabhängig von der Kultur. Dies ist umstritten und wissenschaftlich widerlegt. Ausserdem stimmen die im Gesicht gezeigten Gefühle nicht unbedingt mit den empfundenen Gefühlen überein. Problematisch ist, was solche KIs vorgeben zu können: Wenn Menschen glauben, dass KI-Systeme ihre Gefühle erkennen können, dann wirkt dies abschreckend. Der Einsatz als Lügendetektoren, etwa bei Grenzkontrollen, verletzt das Grundrecht auf Gedankenfreiheit. -> Europäische Datenschutzinstanzen fordern im Rahmen der geplanten KI-Regulierung ein Verbot von Anwendungen zur Emotionserkennung – Ausnahmen im medizinischen Bereich wären möglich.