Gutachten
Dringender Handlungsbedarf zum Schutz von Minderjährigen vor KI-Risiken
Es sei wichtig, dass Risiken rechtzeitig durch Gesetzesänderungen adressiert werden. Auch dabei müsse man früher im Erzeugungsprozess ansetzen und die KI-Anbieter*innen in die Pflicht nehmen. So lauten die zentralen Ergebnisse eines neuen Gutachtens des Instituts für Europäisches Medienrecht (EMR), das die Kommission für Jugendmedienschutz (KJM) beauftragt hat.
27.02.2024
Generative KI erobert immer schneller immer mehr Lebensbereiche. Vielfach mit positiven Effekten, mitunter auch mit negativen. Dies gilt insbesondere auch für den Kinder- und Jugendmedienschutz. Aktuell besteht die Gefahr, dass KI-generierte Inhalte, Bilder oder Videos zu einer Desorientierung von Minderjährigen beitragen und die Polarisierung der Gesellschaft in einer für den Anspruch von Kindern und Jugendlichen auf ein demokratisches Miteinander bedenklichen Weise befördern.
Gefahr der Desorientierung bei Kindern und Jugendlichen
Dr. Jörg Ukrow, geschäftsführendes Vorstandsmitglied des EMR:
„KI droht zu einer Art Brandbeschleuniger zu werden. Bestehende Herausforderungen werden verschärft: Bereits jetzt werden KI-generierte Bilder zur politischen Manipulation eingesetzt. In Zukunft könnten Fake-Inhalte, die immer „echter“ aussehen, das Netz fluten und das Vertrauen in Informationen erschüttern. Durch Filterblasen droht KI die Meinungsbildung zu verengen. Machen wir uns nichts vor: KI ist nicht nur eine Herausforderung für die Meinungsbildung von Kindern und Jugendlichen, sondern auch für die Demokratie. Mit Blick auf die schnelle technologische Entwicklung ist zügiges Handeln gefragt.“
Dr. Marc Jan Eumann, Vorsitzender der Kommission für Jugendmedienschutz:
„Mit wenigen Klicks können durch generative KI Bilder oder Videos erzeugt werden, die Empörung über kontroverse Themen schüren und junge Menschen verunsichern und verwirren. Auch die durch KI kinderleichte Erstellung von schwersten Missbrauchsdarstellungen macht deutlich, dass bei den rasanten technischen Entwicklungen der Schutz von Kindern und Jugendlichen nicht auf der Strecke bleiben darf. Hier müssen wir früher ansetzen und KI-Anbieter*innen in die Verantwortung nehmen. Es darf nicht sein, dass solche Inhalte überhaupt entstehen können.“
Mit KI-Jugendschutzbeauftragten zu besserem Schutz
Um gegenzusteuern, benennt das Gutachten konkrete Vorschläge. Zentral sei, dass KI-Systeme explizit in den Geltungsbereich des Jugendmedienschutz-Staatsvertrags (JMStV) aufgenommen würden. Ähnlich wie bei Telemedien, Games, Kinofilmen oder Rundfunk sei es sinnvoll, Selbstkontrolleinrichtungen einzubeziehen. Mit einem unabhängigen KI-Jugendschutzbeauftragten sollte zudem eine Ansprechperson existieren, die bei Entwicklung, Training sowie Anwendung von KI-Anwendungen einbezogen ist. Und: Der JMStV, aber auch das Jugendschutzgesetz des Bundes (JuSchG) sowie der Digital Services Act (DSA) müssen dringend mit Blick auf die schnelle Entwicklung von KI regelmäßig evaluiert werden – und zwar in kürzeren Abständen als bisher.
Expert*innenaustausch zu künstlicher Intelligenz mit Selbstkontrollen
Die KJM hat die Gesetzgeberin bezüglich der Ergebnisse und Empfehlungen des Gutachtens adressiert. Außerdem lud die KJM alle anerkannten Einrichtungen der freiwilligen Selbstkontrolle am 14.02.2024 zu einem Werkstattgespräch ein. Auf Grundlage des Gutachtens tauschten sich KJM und Selbstkontrolleinrichtungen über Erfahrungen mit Generativer KI, deren Nutzungsmöglichkeiten für den Kinder- und Jugendmedienschutz und Umgang mit Gefahren aus.
Quelle: Kommission für Jugendmedienschutz vom 15.02.2024
Termine zum Thema
-
13.11.2024
Eine andere Jugend
-
13.11.2024
Ringvorlesung Digitale Transformation in der Sozialen Arbeit: Künstliche Intelligenz im Kinderschutz
-
13.11.2024
Mit Künstlicher Intelligenz die Arbeit in Jugendbildungsstätten vereinfachen
-
15.11.2024
Rassismuserfahrungen und ihre Folgen
-
23.11.2024
Tagung des Netzwerks Antirassismus im organisierten in Braunschweig
Materialien zum Thema
-
Zeitschrift / Periodikum
Außerschulische Bildung 3/2024: Künstliche Intelligenz und politische Bildung
-
Zeitschrift / Periodikum
das baugerüst 3/24 „Friedens(t)räume“
-
Vortrag von Marvin Grote zum Thema „Künstliche Intelligenz für Arbeitsprozesse in der Jugendhilfeplanung am Beispiel von ChatGPT“
-
Artikel / Aufsatz
„Was auf die Ohren?! – Kreativ und kritisch mit Hörmedien in der Medienpädagogik“
-
Broschüre
Mitsprechen, mitbestimmen, mitgestalten – Praxiswissen zu Beteiligung in der Heimerziehung (SOS kompakt, Ausgabe 8)
Projekte zum Thema
-
Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
weitklick – Das Netzwerk für digitale Medien- und Meinungsbildung
-
Staatliche Museen zu Berlin – Preußischer Kulturbesitz
Kann Spuren von Rechts(populismus) enthalten – Zwischen modernen Mythen und radikalen Vereinnahmungen
-
Beyond A Single Story – Instagram-Kanal zur Sensibilisierung für Migrationsgesellschaft in der Kinder-und Jugendhilfe
-
EUROPAEISCHES JUGENDPARLAMENT IN DEUTSCHLAND EV
Facing Division, Finding Unity
-
mehr als lernen e.V.
Lebensunternehmer/-innen innovieren Schule
Institutionen zum Thema
-
Verband / Interessenvertretung
Kinder- und Jugendinteressenvertretung Hessen
-
Träger der freien Kinder- und Jugendhilfe
Landesverband Kinder- und Jugendfilm Berlin e.V.
-
Verband / Interessenvertretung
Deutsches Jugendrotkreuz Landesverband Nordrhein
-
Fort-/Weiterbildungsanbieter
Jugendbildungsstätte Ludwigstein
-
Jugendamt
Servicestelle Kinder- und Jugendbeteiligung NRW beim LWL Landesjugendamt