Kredit abgelehnt, Versicherung teurer als erwartet, keine Einladung zu Wohnungsbesichtigung oder Bewerbungsgespräch: Oft entscheiden nicht Menschen, sondern künstliche Intelligenz. Die Stiftung Warentest erklärt, wie Verbraucher KI-Einsatz erkennen und wie sie sich dagegen wehren können...

Kreditvergabe, Versicherungen, Bewerbungen, Diagnosen im Gesundheitsbereich – Algorithmen und KI sind längst im Alltag angekommen und treffen weitreichende Entscheidungen. Besonders problematisch ist dabei die mangelnde Transparenz. Verbraucher wissen oft nicht, warum sie einen schlechteren Kredit-Score oder höheren Preis bekommen. Hinzu kommen Diskriminierungsrisiken, weil KI-Systeme Vorurteile aus den Trainingsdaten übernehmen können.

Doch Verbraucher sind nicht machtlos, erläutert die Stiftung Warentest: Die Datenschutz-Grundverordnung gibt ihnen das Recht auf Erklärung bei vollautomatisierten folgenreichen Entscheidungen. Wer etwa keinen Kredit bekommt, kann nach den Gründen fragen und eine menschliche Überprüfung verlangen. Auch ein Widerspruch ist möglich, ebenso wie eine Beschwerde bei der Datenschutzbehörde.

Doch wie erkennen Verbraucher den Einsatz von KI? Indizien sind sehr schnelle Entscheidungen sowie Begriffe wie „Scoring“, „automatisierte Verarbeitung“ oder „Profilbildung“. Auch Datenschutzerklärungen und Nutzungsbedingungen enthalten gelegentlich Hinweise.

In der September-Ausgabe von Stiftung Warentest Finanzen und unter www.test.de/ki-rechte erklärt die Stiftung Warentest, wie sich Verbraucher wehren können und stellt einen Musterbrief zur Verfügung, mit dem sie ihre Rechte gegenüber Unternehmen geltend machen können.