Automatisierte Diskriminierung beim Sozialversicherungsamt

Das Sozialversicherungsamt in Schweden setzt seit 2018 auf einen Algorithmus, um Betrüger:innen im Sozialsystem ausfindig zu machen. Verdächtige werden markiert und einem ausführlichen Profiling unterzogen. Die Betroffenen erfahren nichts davon. Zwei Gerichtsverfahren und ein geleakter Datensatz bestätigen die langjährigen Vermutungen der schwedischen Tageszeitung «Svenska Dagbladet» und des Investigativmediums «Lighthouse Reports»: Der Algorithmus diskriminiert mehrere Personengruppen. Frauen, Menschen mit Migrationshintergrund, Geringverdienende und Personen ohne universitären Abschluss werden übermässig häufig verdächtigt, den Staat zu betrügen.