Der Trend weltweit ist klar: KI-generierte Inhalte sollen deklariert werden. Verhindern wir damit Desinformation oder begünstigen wir die Überwachung? Die neue Regulierung in China sollte uns hellhörig machen.
🇨🇳 Social Media Plattformen sollen zum Beispiel bestraft werden, wenn sie KI-generierte Inhalte ohne ordnungsgemässe Deklaration veröffentlichen oder verbreiten. China ist nicht die erste Nation, die versucht, die Verbreitung von KI-generierten Inhalten zu regulieren.
🇪🇺 🇺🇸 Seit dem 1. August ist der AI Act der EU in Kraft, der eine ähnliche Kennzeichnungen vorschreibt, und Kalifornien verabschiedete diesen Monat ein ähnliches Gesetz. Ausserdem haben sieben grosse KI-Konzerne wie z.B. Anthropic, Google und OpenAI gegenüber US-Präsident Joe Biden verpflichtet «to developing robust technical mechanisms to ensure that users know when content is AI generated, such as a watermarking system.»
🌍 Natürlich ist es wichtig, dass wir Desinformation verhindern und die illegale Verwendung von KI-generierten Inhalten unterbinden (z.B. nicht einvernehmliche Pornografie). Aber ich zweifle daran, dass die Deklaration eine geeignete Massnahme ist. Denn wer dies tut, macht es in voller Absicht!
👁️ Denkt beispielsweise an die Desinformationskampagnen gewisser Länder oder auch an Deepfake Porn Videos. Solche Akteure, staatliche wie private, werden sich KI-Tools im Darknet beschaffen, deren Ergebnisse nicht deklariert sind.
👁️ Auch technisch lassen sich die bestehenden Deklarationen austricksen, wie diverse Studien zeigen. Zum Beispiel kommt die Mozilla Foundation zum Schluss: «In fact, we find that none of the most prevalent approaches adequately rise to the challenge.» (Studie 2024: In Transparency We Trust?)
🔥 Gut möglich, dass wir als Gesellschaft einen hohen Preis bezahlen für eine «nicht wirksame Massnahme»: Einzelne Länder können die Deklarationspflicht nutzen, um die Meinungsfreiheit einzuschränken und Inhalte zu zensieren. Ausserdem erfordert die Durchsetzung der KI-Kennzeichnung eine verstärkte Überwachung / Aufsicht.
Gesellschaftliche Probleme lassen sich nicht immer mit Technologien lösen. Was wäre mein Vorschlag?
🙋♀️ Ich würde kräftig in die Medienkompetenz der Bevölkerung investieren. Was ist heute alles möglich? Welchen Mechanismen bedienen sich kriminelle Akteure? Das macht uns weniger anfällig für Desinformation und kriminelle Machenschaften. Ein weiteres Instrument sind Berufskodizes, wie wir es z.B. aus dem Journalismus kennen.
🙋♀️ Gegen illegal generierte KI-Inhalte braucht es Identitätsmissbrauch als neuen Strafbestand, was wir seit dem 1.9.2023 in der Schweiz haben. Ob dies genügt oder eine Verschärfung nötig ist, werden wir sehen.
🙋♀️ Wer sich für solche Themen interessiert bzw. sich mit den Chancen und Risiken von generativer KI auseinandersetzen möchte: Die Daten meiner Online-Kurse, des CAS Digital Ethics (jährlich) sowie weitere Informationen gibt es auf meiner Website.
Hinweis: Anlass für diesen Post ist ein Artikel von Zeyi Yang auf WIRED: China’s Plan to Make AI Watermarks Happen