«Identitätsmissbrauch» im Zeitalter von KI? Scarlett Johansson hat die Anfrage von Sam Altman explizit abgelehnt. Sie will ihre Stimme nicht für ChatGPT 4.0 zur Verfügung zu stellen. Und dennoch ist Sam Altman nun offenbar zum Ziel gekommen.
🔎 OpenAI nutzt gemäss eigenen Aussagen nicht die Stimme von Scarlett Johansson, sondern die Stimme einer anderen Person, die sehr ähnlich tönt. Statt sich unerlaubt einer Stimme zu bedienen, nimmt man einfach eine andere, um dasselbe Ergebnis zu erzielen.
🔎 Dies ist eine neue Dimension und eine besonders perfide Form von «Identitätsmissbrauch» wie ich finde. Nicht von Kriminellen, sondern von einem erfolgreichen Unternehmen wie OpenAI?
👨🏼💻 Da läuft etwas mächtig schief! Offenbar ist der Science Fiction «Her», in dem sich ein Mann in seinen Chatbot bzw. die Stimme von Scarlett Johansson verliebt, der Lieblingsfilm von Sam Altman, CEO von OpenAI.
👨🏼💻 Wiederholt sich hier das Muster, dass Personen mit viel Macht das Gefühl haben, sich alles erlauben zu können? Für unser Vertrauen in KI-Unternehmen und die Wirtschaft sind solche Fälle Gift.
🙋♀️ Scarlett Johansson hat zu diesem Vorfall folgendes Statement publiziert:
«Last September, I received an offer from Sam Altman, who wanted to hire me to voice the current ChatGPT 4.0 system. He told me that he felt that by my voicing the system, I could bridge the gap between tech companies and creatives and help consumers to feel comfortable with the seismic shift concerning humans and Al. He said he felt that my voice would be comforting to people.
After much consideration and for personal reasons, I declined the offer.
Nine months later, my friends, family and the general public all noted how much the newest system named ‘Sky’ sounded like me.
When I heard the released demo, I was shocked, angered and in disbelief that Mr. Altman would pursue a voice that sounded so eerily similar to mine that my closest friends and news outlets could not tell the difference. Mr. Altman even insinuated that the similarity was intentional, tweeting a single word ‘her’ — a reference to the film in which I voiced a chat system, Samantha, who forms an intimate relationship with a human.
Two days before the ChatGPT 4.0 demo was released, Mr. Altman contacted my agent, asking me to reconsider. Before we could connect, the system was out there.
As a result of their actions, I was forced to hire legal counsel, who wrote two letters to Mr. Altman and OpenAl, setting out what they had done and asking them to detail the exact process by which they created the ‘Sky’ voice. Consequently, OpenAl reluctantly agreed to take down the ‘Sky’ voice.
In a time when we are all grappling with deepfakes and the protection of our own likeness, our own work, our own identities, I believe these are questions that deserve absolute clarity. I look forward to resolution in the form of transparency and the passage of appropriate legislation to help ensure that individual rights are protected.»
Was viele nicht wissen: In der Schweiz steht Identitätsmissbrauch seit dem 1. September 2023 ausdrücklich unter Strafe. Dieser Straftatbestand hat nicht direkt mit diesem Fall zu tun. Dennoch ist diese Information vielleicht nützlich mit Blick auf Deepfakes und Co.
Hinweis 1: «Identitätsmissbrauch» habe ich hier bewusst in Anführungs- und Schlusszeichen gesetzt. In der aktuellen Diskussion rund um generative Künstliche Intelligenz (KI) geht es beim Identitätsmissbrauch darum, dass z.B. Audio- und Videomaterial mit Hilfe von KI manipuliert wird. Das ist hier offenbar nicht der Fall. Ich habe mich dieses Begriffs dennoch bedient, einfach in Anführungs- und Schlusszeichen, weil es in diesem spezifischen Kontext um die bewusste Nutzung einer Stimme geht, die man mit Scarlett Johansson in Verbindung bringt. Es hat hier also nichts mit KI zu tun (ausser der Fall entwickelt sich noch anders), sondern mit dem Thema Identität und Vortäuschung einer Identität.
Hinweis 2: Anlass für diesen Post auf LinkedIn war dieser Artikel in der Zeitschrift Variety vom 20. Mai 2024, welchen ich heute morgen gesehen hatte. Bild: Screenshot des Bildes dieses Artikels (Kristy Sparow/Getty Images).