Künstliche Intelligenz: EU-Parlament will faire und sichere Nutzung für Verbraucher

Die Resolution des Europäischen Parlaments beschäftigt sich mit verschiedenen Herausforderungen, die sich im Rahmen der schnellen Entwicklung von künstlicher Intelligenz (KI) und Technologien zur automatisierten Entscheidungsfindung stellen. Ein besonderes Augenmerk wird auf den Verbraucherschutz gelegt.

Das Parlament begrüßt das Potenzial von automatisierter Entscheidungsfindung, den Verbrauchern innovative und verbesserte Dienstleistungen zu bieten, einschließlich neuer digitaler Dienste wie virtueller Assistenten und Chatbots. Wenn man jedoch mit einem System interagiert, das die Entscheidungsfindung automatisiert, sollte man „angemessen über die Funktionsweise informiert werden, sowie darüber, wie ein menschlicher Ansprechpartner mit Entscheidungsbefugnissen erreicht werden kann und wie sichergestellt wird, dass die Entscheidungen eines Systems überprüft und korrigiert werden können“, fügt es hinzu.

Kontrollmechanismen und Risikobewertungsschema notwendig

Die Systeme sollten nur hochqualitative und tendenzfreie Datensätze, sowie „nachvollziehbare und tendenzfreie Algorithmen“ verwenden, heißt es in der Resolution. Es müssen Kontrollmechanismen eingerichtet werden, um mögliche Fehler automatisierter Entscheidungen korrigieren zu können. Verbraucher müssen auch eine Aufhebung von endgültigen automatisierten Entscheidungen verlangen können.

„Es müssen immer Menschen für Entscheidungen letztverantwortlich sein und sie müssen in der Lage sein, diese Entscheidungen insbesondere bei medizinischen und rechtlichen Dienstleistungen, sowie im Finanz- und Bankenbereich zu korrigieren“, unterstreichen die Abgeordneten.

Das Parlament fordert ein Risikobewertungsschema für KI und automatisierte Entscheidungsfindung sowie einen gemeinsamen EU-Ansatz, um die Vorteile dieser Prozesse zu sichern und die Risiken in der gesamten EU zu mindern.

Sicherheits- und Haftungsregeln den neuen Technologien anpassen

Die Abgeordneten fordern die Kommission auf, Vorschläge zur Aktualisierung der EU-Sicherheits- und Haftungsregeln im Hinblick auf KI-fähige Produkte (z.B. Maschinen und Spielzeug) vorzulegen um sicherzustellen, dass die Verbraucher über die Nutzung der Produkte informiert und vor möglichen Schäden geschützt werden. Die Hersteller müssen sich ihrer Pflichten bewusst sein.

Die Produkthaftungsrichtlinie, die vor über 30 Jahren angenommen wurde, muss ebenfalls aktualisiert werden um Begriffe wie „Produkt“, „Schaden“ oder „Fehler“, sowie die Beweislastregelungen anzupassen, fordert das Parlament.

Differenzierte Preispolitik und Diskriminierung

Im Rahmen der EU-Gesetzgebung müssen die Händler die Verbraucher informieren, wenn der Preis von Waren und Dienstleistungen aufgrund automatisierter Entscheidungsfindung und der Erstellung von Profilen des Verbraucherverhaltens personalisiert wurden, erinnern die Abgeordneten und fordern die Kommission auf, die Einhaltung dieser Regelungen genau zu überwachen. Die EU muss außerdem sicherstellen, dass die automatische Entscheidungsfindung nicht dazu genutzt wird, Verbraucher aufgrund ihrer Staatsangehörigkeit, ihres Wohnsitzes oder ihres vorübergehenden Aufenthaltsorts zu diskriminieren.

Nächste Schritte

Die Resolution, die per Handzeichen angenommen wurde, wird an den Rat (die Mitgliedstaaten) und an die Kommission übermittelt, damit diese den Ansichten der Abgeordneten zu den Themen KI und automatisierte Entscheidungsfindung Rechnung tragen. Die Europäische Kommission hat angekündigt, am 19. Februar 2020 einen Plan für eine Europäische Herangehensweise zu präsentieren.

Quelle: Europäisches Parlament vom 12.02.2020

Redaktion: Melanie Welters