«They See Your Photos» ist ein Forschungsexperiment, bei dem generative KI eingesetzt wird, um hochgeladene Bilder zu beschreiben. WOW! Das Ergebnis ist krass und basiert auf Wahrscheinlichkeiten. Es ist kein Profiling.
Was passiert hier?
🔎 Mit Hilfe von künstlicher Intelligenz (KI) wird das Bild einer Person analysiert. Es wird mit anderen Bildern und Videos, mit denen das KI-Modell trainiert wurde, verglichen. Das Ergebnis hängt davon ab, mit welchen Daten dieses Modell trainiert wurde. Es werden sozusagen «Muster» erkannt, basierend auf Wahrscheinlichkeiten. (prädiktive KI)
🔎 Basierend auf diesem Ergebnis wird anschliessend mit Hilfe von KI eine Beschreibung generiert. Es wird ein neuer Text generiert, ebenfalls basierend auf Wahrscheinlichkeiten. Im vorliegenden Fall kommt das KI-Tool «Gemini» von Google zum Einsatz. (generative KI)
❌ Es handelt sich hier also nicht um ein Profiling, denn bei einem Profiling würden unterschiedliche Daten über uns, zum Beispiel aus dem Internet, zusammengezogen. Das ist hier nicht der Fall.
Dieses Grundverständnis, wie KI funktioniert, ist wichtig, um das Ergebnis richtig interpretieren zu können. Gewisse Informationen stimmen, andere nicht. Das hängt davon ab, ob das, was eine hohe Wahrscheinlichkeit hat, auf unseren konkreten Fall zutrifft.
👩🏻💻 Probiert es aus! Aber nutzt dafür unbedingt ein Foto von euch. Denn wenn ihr ein Foto von anderen Personen nutzt, verletzt ihr ihre Privatsphäre. Sie haben dem nicht zugestimmt und die Daten fliessen auch an Drittparteien gemäss Datenschutzerklärung. Link zum Forschungsprojekt: «They See Your Photos»
🙋♀️ Und für alle, die in ihre KI-Kompetenz und das kritische Denken investieren möchten: Ich bieten unterschiedliche KI-Schulungen an, den Studiengang CAS Digital Ethics und halte auch gerne Vorträge zum Thema. Wer nichts verpassen möchte, abonniert sich am besten gleich meinen Newsletter 😉 .