Digitalisierung und Medien
Künstliche Intelligenz: EU-Parlament will faire und sichere Nutzung für Verbraucher
In seiner Resolution verlangt das Europäische Parlament strenge Regelungen, um die Verbraucher im Rahmen der Nutzung Künstlicher Intelligenz und automatisierter Entscheidungsfindung zu schützen. Die Abgeordneten fordern eine Aktualisierung der EU-Regeln zur Sicherheit und Haftung mit Blick auf KI-fähige Produkte, die Verwendung von tendenzfreien Algorithmen und Kontrollstrukturen sowie die Sicherstellung, dass der Mensch die Kontrolle behält.
17.02.2020
Die Resolution des Europäischen Parlaments beschäftigt sich mit verschiedenen Herausforderungen, die sich im Rahmen der schnellen Entwicklung von künstlicher Intelligenz (KI) und Technologien zur automatisierten Entscheidungsfindung stellen. Ein besonderes Augenmerk wird auf den Verbraucherschutz gelegt.
Das Parlament begrüßt das Potenzial von automatisierter Entscheidungsfindung, den Verbrauchern innovative und verbesserte Dienstleistungen zu bieten, einschließlich neuer digitaler Dienste wie virtueller Assistenten und Chatbots. Wenn man jedoch mit einem System interagiert, das die Entscheidungsfindung automatisiert, sollte man „angemessen über die Funktionsweise informiert werden, sowie darüber, wie ein menschlicher Ansprechpartner mit Entscheidungsbefugnissen erreicht werden kann und wie sichergestellt wird, dass die Entscheidungen eines Systems überprüft und korrigiert werden können“, fügt es hinzu.
Kontrollmechanismen und Risikobewertungsschema notwendig
Die Systeme sollten nur hochqualitative und tendenzfreie Datensätze, sowie „nachvollziehbare und tendenzfreie Algorithmen“ verwenden, heißt es in der Resolution. Es müssen Kontrollmechanismen eingerichtet werden, um mögliche Fehler automatisierter Entscheidungen korrigieren zu können. Verbraucher müssen auch eine Aufhebung von endgültigen automatisierten Entscheidungen verlangen können.
„Es müssen immer Menschen für Entscheidungen letztverantwortlich sein und sie müssen in der Lage sein, diese Entscheidungen insbesondere bei medizinischen und rechtlichen Dienstleistungen, sowie im Finanz- und Bankenbereich zu korrigieren“, unterstreichen die Abgeordneten.
Das Parlament fordert ein Risikobewertungsschema für KI und automatisierte Entscheidungsfindung sowie einen gemeinsamen EU-Ansatz, um die Vorteile dieser Prozesse zu sichern und die Risiken in der gesamten EU zu mindern.
Sicherheits- und Haftungsregeln den neuen Technologien anpassen
Die Abgeordneten fordern die Kommission auf, Vorschläge zur Aktualisierung der EU-Sicherheits- und Haftungsregeln im Hinblick auf KI-fähige Produkte (z.B. Maschinen und Spielzeug) vorzulegen um sicherzustellen, dass die Verbraucher über die Nutzung der Produkte informiert und vor möglichen Schäden geschützt werden. Die Hersteller müssen sich ihrer Pflichten bewusst sein.
Die Produkthaftungsrichtlinie, die vor über 30 Jahren angenommen wurde, muss ebenfalls aktualisiert werden um Begriffe wie „Produkt“, „Schaden“ oder „Fehler“, sowie die Beweislastregelungen anzupassen, fordert das Parlament.
Differenzierte Preispolitik und Diskriminierung
Im Rahmen der EU-Gesetzgebung müssen die Händler die Verbraucher informieren, wenn der Preis von Waren und Dienstleistungen aufgrund automatisierter Entscheidungsfindung und der Erstellung von Profilen des Verbraucherverhaltens personalisiert wurden, erinnern die Abgeordneten und fordern die Kommission auf, die Einhaltung dieser Regelungen genau zu überwachen. Die EU muss außerdem sicherstellen, dass die automatische Entscheidungsfindung nicht dazu genutzt wird, Verbraucher aufgrund ihrer Staatsangehörigkeit, ihres Wohnsitzes oder ihres vorübergehenden Aufenthaltsorts zu diskriminieren.
Nächste Schritte
Die Resolution, die per Handzeichen angenommen wurde, wird an den Rat (die Mitgliedstaaten) und an die Kommission übermittelt, damit diese den Ansichten der Abgeordneten zu den Themen KI und automatisierte Entscheidungsfindung Rechnung tragen. Die Europäische Kommission hat angekündigt, am 19. Februar 2020 einen Plan für eine Europäische Herangehensweise zu präsentieren.
Quelle: Europäisches Parlament vom 12.02.2020
Termine zum Thema
-
09.04.2024
Qualifizierung Multiplikator*in für Medienpädagogik in der Kinder- und Jugendhilfe
-
12.04.2024
Fortbildung Smarte Jugendarbeit
-
17.04.2024
3. Praxisforum CLICK!
-
25.04.2024
KI in der Kinder- und Jugendarbeit
-
25.04.2024
Vorstellung des neuen Open Source Fördermittelportals für (KJP-) Zentralstellen
Materialien zum Thema
-
Expertise / Gutachten
JAdigital-Expertise: Stand und Entwicklung der Digitalisierung in der Kinder- und Jugendarbeit/ Kinder- und Jugendbildung
-
Bericht / Dokumentation
Videos mit Vorträgen zur Thematik "Digitalisierung und Inklusion in der Kinder- und Jugendhilfe"
-
Bericht / Dokumentation
Videos mit Vorträgen zur Thematik "Digitalisierung und Inklusion in der Kinder- und Jugendhilfe"
-
Expertise / Gutachten
Rechtsgutachten des DIJuF: "Digitalisierung in der Kinder- und Jugendhilfe"
-
Expertise / Gutachten
JAdigital-Expertise: "Digitalisierung im Rahmen der Psychotherapie"
Projekte zum Thema
-
Institut für Sozialpädagogische Forschung Mainz gGmbH
JAdigital. Digitalisierung in der Kinder- und Jugendhilfe konzeptionell gestalten
-
Kinderschutz und Kinderrechte in der digitalen Welt
-
Cluster Projekte GmbH
Modellprojekt DiKon – Digital in Kontakt sein mit jungen Menschen
-
Museum für Islamische Kunst / Staatliche Museen zu Berlin
Bildungsprojekt „Gemeinsame Verantwortung – Gemeinsame Zukunft“
-
European Knowledge Centre for Youth Policy
Institutionen zum Thema
-
Verband / Interessenvertretung
Deutscher Berufsverband für Soziale Arbeit e.V. (DBSH) – Funktionsbereich Kinder- und Jugendhilfe
-
Fort-/Weiterbildungsanbieter
Paritätische Akademie Süd gGmbH
-
Sonstige
Initiative für frühe Bildung
-
Außeruniversitäre Forschungs-/Serviceeinrichtung
Grimme Institut - Gesellschaft für Medien, Bildung und Kultur mbH
-
Sonstige
Beauftragte für Kultur und Medien (BKM)