Safer Internet Day 2024
Informationelle Selbstbestimmung ist Kinderrecht

Das Deutsche Kinderhilfswerk weist zum Safer Internet Day auf die Wichtigkeit der informationellen Selbstbestimmung auch für Kinder hin. Es appelliert an die Bundesregierung, sich auf nationaler Ebene bei Themen der Künstlichen Intelligenz für die Kinderrechte stark zu machen.
07.02.2024
Holger Hofmann, Bundesgeschäftsführer des Deutschen Kinderhilfswerkes kommentiert:
„Informationelle Selbstbestimmung ist ein Kinderrecht und kein Thema, von dem nur Erwachsene betroffen sind. Insbesondere bei der rasanten Entwicklung im Bereich der Künstlichen Intelligenz müssen die Perspektiven und Rechte von Kindern gemäß UN-Kinderrechtskonvention stets beachtet werden. Das ist derzeit leider nicht der Fall: So werden beispielsweise Systeme der Künstlichen Intelligenz bereits mit Kinderdaten aus unbestimmten Quellen trainiert, wodurch den Kindern jegliche Möglichkeit zur Einwilligung genommen wird und sie keine Kontrolle über die Nutzung ihrer Daten haben. Ein solcher Kontrollverlust kann derzeit noch nicht absehbare Konsequenzen nach sich ziehen und muss in Zukunft vermieden werden. Und nicht nur das: Die Berücksichtigung von Kinderrechten bereits im Designprozess, Stichwort Kinderrechte by Design, muss Maxime einer ethischen, kindgerechten Produkt- und Angebotsgestaltung sein.
Künstliche Intelligenz wird auch zur Gesichtserkennung im öffentlichen Raum trainiert, was nach einer neuen EU-Richtlinie eine Hochrisikoanwendung ist. Besonders ist dabei zu beachten, dass die dafür notwendige Erfassung biometrischer Daten schon per se ein Datenschutzrisiko in sich birgt. Bei Kindern sind biometrische Daten noch stetigen Änderungen unterworfen. Diese in Trainingsdaten für die Künstliche Intelligenz zu verwenden, bringt ein hohes Risiko der Falscherkennung mit sich.
Aktuell sind viele Kinder und Jugendliche mit sogenannten Deepfakes konfrontiert. Deepfakes sind mit KI erstellte Bildbearbeitungen, in denen die Gesichter oder Körper realer Personen in fremde Kontexte eingefügt werden. Die Tools für die Erstellung solcher Bilder erfreuen sich hoher Beliebtheit in den App-Stores und die erstellten Bilder verbreiten sich auf Schulhöfen rasant schnell. Insbesondere sexualisierte Darstellungen von Mitschülerinnen und Mitschülern verstören die Betroffenen und sind eine bisher kaum regulierte Form digitaler Gewalt.”
Kinderrechten auf Datenschutz und Privatsphäre einhalten
Deshalb appelliert das Deutsche Kinderhilfswerk an die Bundesregierung, sich auf nationaler Ebene bei Themen der Künstlichen Intelligenz für die Kinderrechte stark zu machen. Es gilt das frisch verabschiedete EU KI-Gesetz nun national umzusetzen. Dabei muss sichergestellt werden, dass die Umsetzung dem Koalitionsvertrag folgt und keine biometrische Überwachung im öffentlichen Raum zulässt. Eine entsprechende Überwachung auch von Kindern widerspricht fundamental den in der UN-Kinderrechtskonvention festgeschriebenen Kinderrechten auf Datenschutz und Privatsphäre. Und auch das Phänomen Deepfakes bedarf einer schnellen, praktikablen Lösung, einfache Wasserzeichen werden den angerichteten Schaden bei Opfern nicht vermeiden können.
Termine zum Thema
Materialien zum Thema
-
App
Wie funktionieren KI und Algorithmen? Serious Game „The Feed“
-
Studienarbeit
Wie Hass im Netz den demokratischen Diskurs bedroht
-
Zeitschrift / Periodikum
Außerschulische Bildung 3/2024: Künstliche Intelligenz und politische Bildung
-
Anleitung / Arbeitshilfe
Missbrauchsdarstellungen von Kindern im Netz sicher melden
-
Studie
Jugendmedienschutzindex 2022
Projekte zum Thema
-
Kinderschutz und Kinderrechte in der digitalen Welt
-
Fachstelle für Jugendmedienkultur NRW
participART – Medien.Kunst.Pädagogik
-
JFF – Institut für Medienpädagogik in Forschung und Praxis
GenderONline – Geschlechterbilder und Social Media zum Thema machen
-
Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
weitklick – Das Netzwerk für digitale Medien- und Meinungsbildung
-
Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
Elternguide.online
Institutionen zum Thema
-
Verband / Interessenvertretung
Kinder- und Jugendinteressenvertretung Hessen
-
Fort-/Weiterbildungsanbieter
medien.rlp – Institut für Medien und Pädagogik e.V.
-
Oberste Landesjugendbehörde
Ministerium für Soziales, Jugend, Familie, Senioren, Integration und Gleichstellung des Landes Schleswig-Holstsein
-
Träger der freien Kinder- und Jugendhilfe
faX Fachberatungsstelle bei sexualisierter Gewalt in Kindheit und Jugend für Stadt und Landkreis Kassel
-
Oberste Landesjugendbehörde
Ministerium für Soziales, Jugend, Familie, Senioren, Integration und Gleichstellung