Erklärbarkeit von KI: Folgen für den digitalen Verbaucherschutz

Der Bericht des Bundesamtes für Sicherheit in der Informationstechnik gibt einen guten Übersicht über Probleme, die auftreten, wenn Methoden aus dem Bereich Explainable Artificial Intelligence (XAI) verwendet werden, um nachgeschaltet ein KI-Modell zu erklären. Die XAI-Methoden bieten zwar Chancen für Erkenntnisgewinne in der Forschung oder Modell-Optimierungen in der Anwendung. Es gibt aber auch Herausforderungen wie das Uneinigkeitsproblem und die Manipulationsanfälligkeit von Erklärungen. Dies stellt einen sicheren und vertrauenswürdigen Einsatz in Bewertungsverfahren und für den digitalen Verbraucherschutz in Frage.