Kinder- und Jugendschutz
Künstliche Intelligenz ist kein Allheilmittel – Chancen müssen trotzdem genutzt werden


Technische Lösungen bilden einen wichtigen Aspekt des Jugendmedienschutzes, zugleich müssten Eltern und Pädagogen allerdings befähigt werden, vorhandene Schutzoptionen in der Medienwelt der Kinder zu entdecken und altersgerecht zu aktivieren. Künstliche Intelligenz sei ein wichtiger Indikator für potenziell beeinträchtigende oder gefährdende Inhalte im Netz, benötige allerdings zugleich den menschlichen Blick und gesellschaftliche Diskurse. Zu diesem Ergebnis kommt die Kommission für Jugendmedienschutz (KJM) im Rahmen ihrer Veranstaltungsreihe „KJM im Dialog“ am 07.11.2018 in Berlin.
13.11.2018
Dr. Wolfgang Kreißig, Vorsitzender der Kommission für Jugendmedienschutz (KJM), fordert von Entwicklern und Anbietern ein verstärktes Engagement für den technischen Jugendmedienschutz. Im Rahmen der Veranstaltung „KJM im Dialog“ sagte Dr. Kreißig am 07.11.2018 in Berlin: „Gerade im Bereich des maschinellen Lernens wurden in den letzten Jahren massive Fortschritte gemacht. Wir müssen prüfen, an welchen Stellen neue Lösungen ohne Kollateralschäden eingesetzt werden können und diese Chancen nutzen, um den Jugendschutz zu stärken.“
Möglichkeiten und Grenzen des technischen Jugendmedienschutzes
Bei der Veranstaltung der KJM diskutierte Dr. Kreißig mit Experten aus Politik, Wirtschaft und Wissenschaft aktuelle Möglichkeiten und Grenzen des technischen Jugendmedienschutzes. Deutlich wurde, dass derzeit vor allem im Bereich der Bilderkennung großes Potenzial liegt, das derzeit noch nicht bedarfsorientiert für den Jugendmedienschutz eingesetzt wird. Die Experten warnten jedoch vor der Annahme, dass automatisierte Erkennungsmechanismen eine allumfassende Lösung für den Jugendschutz sein könnten. In bestimmten jugendschutzrelevanten Bereichen funktioniere diese künstliche Intelligenz sehr zuverlässig und könne als Indikator für potenziell beeinträchtigende oder gefährdende Inhalte dienen. In anderen Bereichen, vor allem in kontextsensiblen, sei die Gefahr fehlerhafte Ergebnisse (noch) recht groß. Gerade diese kontextabhängigen Bewertungen benötigen ebenso wie die Auslegung unbestimmter Rechtsbegriffe den menschlichen Blick und gesellschaftliche Diskurse.
Technische Lösungen benötigen menschlichen Blick
Einigkeit herrschte in der Podiumsdiskussion auch darüber, dass technische Lösungen ein ausgesprochen wichtiger Aspekt für den Jugendmedienschutz sind, jedoch von weiterem Engagement flankiert sein müssen. Die Diskussionsteilnehmer betonten dabei neben der Anbieterverantwortung und „Safety-by-Design“ besonders die Bedeutung effektiver Rechtsdurchsetzung und der Sicherstellung eines zeitgemäßen Regulierungsrahmens. Zudem müssten Eltern und Pädagogen befähigt werden, bereits vorhandene Schutzoptionen in der Medienwelt der Kinder zu entdecken und altersgerecht zu aktivieren.
Bei der Veranstaltung „Jugendschutz ex Machina: Neue Möglichkeiten im technischen Jugendmedienschutz“ zu Gast waren neben dem KJM-Vorsitzenden Dr. Wolfgang Kreißig
- Heike Raab, Staatssekretärin und Bevollmächtigte des Landes Rheinland-Pfalz beim Bund und für Europa, für Medien und Digitales,
- Sabine Frank, Leiterin Regulierung, Verbraucher- und Jugendschutz, Google Germany,
- Stefan Haddick, Bundesministerium für Familie, Senioren, Frauen und Jugend, Leiter Referat Jugendschutzgesetz, Kinder- und Jugendmedienschutz, Aufwachsen digital,
- Dr. Stephan Dreyer, Senior Researcher Medienrecht & Media Governance, Hans-Bredow-Institut für Medienforschung.
Die Veranstaltung im Rahmen der Reihe „KJM im Dialog“ fand am 07.11.2018 in der Vertretung des Landes Rheinland-Pfalz beim Bund in Berlin statt. Moderiert wurde der Abend von der Journalistin Ingrid Scheithauer.
Kommission für Jugendmedienschutz
Die Kommission für Jugendmedienschutz (KJM) ist die zentrale Aufsichtsstelle für den Jugendschutz im privaten bundesweiten Fernsehen sowie im Internet. Ihre Aufgabe ist es, für die Einhaltung der Jugendschutzbestimmungen zu sorgen und im Rahmen der regulierten Selbstregulierung die Selbstverantwortung der Anbieter zu fördern. Weitere Informationen über die Kommission für Jugendmedienschutz (KJM) und ihre Mitglieder unter www.kjm-online.de.
Quelle: Kommission für Jugendmedienschutz vom 08.11.2018
Materialien zum Thema
-
Anleitung / Arbeitshilfe
Sexualisierte Gewalt mittels digitaler Medien - Bildkarten
-
Zeitschrift / Periodikum
Jugendmedienschutz in Europa - KJug 1/2022
-
Webangebot / -portal
Online-Selbstlernkurse zu Desinformation im digitalen Raum
-
Monographie / Buch
Märchen und Erzählungen der digitalen Ethik
-
Monographie / Buch
Mehr als Homeschooling und Onlinebasteln – Medienpädagogik als Experimentier- und Erfahrungsfeld digitaler Jugendarbeit
Projekte zum Thema
-
JFF – Institut für Medienpädagogik in Forschung und Praxis
GenderONline – Geschlechterbilder und Social Media zum Thema machen
-
Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
weitklick – Das Netzwerk für digitale Medien- und Meinungsbildung
-
Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
Elternguide.online
-
Deutsche Kinder- und Jugendstiftung gGmbH
Technovation Girls Germany
-
Bund für Soziale Verteidigung e.V.
LOVE-Storm – Gemeinsam gegen Hass im Netz