Ein abgelehnter Kredit, die Kündigung eines Vertrags oder personalisierte Werbung: Immer häufiger setzen Unternehmen automatisierte Systeme mit Künstlicher Intelligenz (KI) ein, um Verbraucher:innen zu bewerten. Dabei werden große Mengen persönlicher Daten analysiert wie das Kaufverhalten, Standortdaten oder Informationen aus Apps und Kundenkonten. „Vielen ist nicht bewusst, wie stark automatisierte Entscheidungen ihren Alltag beeinflussen“, sagt Dr. Konstantin von Normann, Leiter bei der Verbraucherzentrale NRW in Troisdorf. „Problematisch wird es vor allem dann, wenn Betroffene nicht nachvollziehen können, warum sie schlechtere Konditionen erhalten oder ein Vertrag abgelehnt wird.“ Hier legt der Europäische Gerichtshof die Datenschutz-Grundverordnung (DSGVO) streng aus und konkretisiert und stärkt damit Verbraucherrechte. Wie Verbraucher:innen ihre Rechte bei KI-Entscheidungen wahrnehmen können, erklärt die Verbraucherzentrale NRW und stellt dafür auch einen Musterbrief zur Verfügung.

Welche Grenzen setzt der europäische Datenschutz dem KI-Einsatz?

Seit Inkrafttreten der DSGVO vor zehn Jahren hat sich der digitale Verbraucheralltag grundlegend verändert. Apps erfassen Standortdaten, Plattformen analysieren Nutzungsverhalten und Bonusprogramme erstellen umfangreiche Kundenprofile. Viele Dienste erscheinen zwar auf den ersten Blick kostenlos, tatsächlich bezahlen Nutzer:innen jedoch häufig mit ihren persönlichen Daten. Unternehmen treffen Entscheidungen heute oft vollständig automatisiert, also ohne menschliches Eingreifen. Gleichzeitig hat der Europäische Gerichtshof klargestellt: Betroffene haben ein Recht auf Erklärung, wenn dafür ihre persönlichen Daten verwendet werden. Die DSGVO gibt damit wichtige Werkzeuge an die Hand, um die Kontrolle über die eigenen Daten zu behalten und sich gegen intransparente oder fehlerhafte Entscheidungen zu wehren.

Welche Rechte haben Verbraucher:innen konkret?

Verbraucher:innen haben das Recht zu erfahren, ob Unternehmen automatisierte Entscheidungsverfahren oder sogenanntes Profiling einsetzen. Hinweise darauf finden sich häufig in Datenschutzhinweisen unter Begriffen wie „automatisierte Entscheidungsfindung“, „Scoring“ oder „Profiling“. Zudem können Betroffene Auskunft darüber verlangen, welche personenbezogenen Daten verarbeitet wurden und welche Informationen in die Entscheidung eingeflossen sind. Außerdem können sie erfahren, nach welchen Kriterien die Entscheidung getroffen wurde und welche Folgen dies für sie hat. Diese Auskünfte müssen Unternehmen kostenfrei erteilen und grundsätzlich innerhalb eines Monats antworten.

Was können Betroffene bei nachteiligen KI-Entscheidungen tun?

Bei Zweifeln an der Richtigkeit einer ablehnenden oder nachteiligen Entscheidung können Betroffene zunächst beim Unternehmen nachfragen, ob diese auf einem automatisierten Verfahren oder Profiling beruht. Außerdem können sie Auskunft darüber verlangen, welche Daten eingeflossen sind und wie die Entscheidung zustande gekommen ist. Dazu stellt die Verbraucherzentrale NRW einen Musterbrief zur Verfügung. Besonders wichtig ist es zu prüfen, ob falsche oder veraltete Daten verwendet wurden. Fehlerhafte Angaben können erhebliche Folgen haben, zum Beispiel bei Bonitätsbewertungen oder Vertragsentscheidungen. Verbraucher:innen können unzutreffende Daten korrigieren lassen und der Verarbeitung ihrer Daten unter bestimmten Voraussetzungen widersprechen. Sollte das Unternehmen nicht reagieren oder die Auskunft verweigern, können sich Ratsuchende an die zuständige Datenschutzaufsichtsbehörde oder an die Verbraucherzentrale NRW wenden.

Weiterführende Informationen:

• Musterbrief zum Recht auf Erklärung bei KI-Entscheidungen:
  https://www.verbraucherzentrale.nrw/node/120069

Alles zur DSGVO: https://www.verbraucherzentrale.nrw/node/25152