Kinder- und Jugendschutz
Mit moderner Technik Kinder in Social Media absichern
Der aktuelle Lagebericht „Technischer Jugendmedienschutz“ von jugendschutz.net empfielt es, Künstliche Intelligenz für den Jugendmedienschutz nutzbar zu machen. Insbesondere auf Smartphones sei ein wirksamer Schutz nötig. Dazu müssen Anbieter Verantwortung übernehmen, so das gemeinsame Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet.
06.09.2019
Kinder nutzen immer früher Social-Media-Dienste wie YouTube, Instagram oder Snapchat und sind dabei Risiken wie Mobbing, Hass, Belästigungen oder Gewalt ausgesetzt. Aktuelle Jugendschutzlösungen sind dort aber nahezu wirkungslos, da sie Inhalte nicht differenziert filtern können. Deshalb müssen auch moderne Technologien wie maschinelles Lernen zum Schutz der Jüngsten eingesetzt und fortentwickelt werden. Zu diesem Ergebnis kommt der aktuelle Lagebericht „Technischer Jugendmedienschutz. Zeitgemäße Entwicklung und zukunftsfähiges Schutzkonzept“ von jugendschutz.net, dem gemeinsamen Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet.
Automatische und manuelle Schutzmechanismen
„Gerade in Social Media finden sich viele Beiträge, die sexuelle Gewalt zeigen, zum Hass anstacheln oder die persönliche Integrität von Kindern gefährden. Um die Jüngsten vor solchen Konfrontationen zu schützen, ist ein Konzept nötig, das auch auf moderne Mechanismen zur Inhaltserkennung setzt“, sagt Stefan Glaser, Leiter von jugendschutz.net. Eltern benötigen zudem Schutzoptionen, die auf Smartphones wirken und leicht zu konfigurieren sind.
Altersdifferenzierte Systeme
„Es liegt in der Verantwortung der Anbieter, existierende Techniken endlich gewinnbringend auch für den Jugendmedienschutz einzusetzen“, fordert Dr. Wolfgang Kreißig, Vorsitzender der Kommission für Jugendmedienschutz (KJM). Um Schutz und Teilhabe junger Userinnen und User zu gewährleisten, brauche es altersdifferenzierte Systeme, die leicht verfügbar und unkompliziert nutzbar seien. In anderen Feldern wie z.B. zur Verhinderung von Urheberrechtsverletzungen würden moderne technische Ansätze längst erfolgreich angewendet.
Jugendschutzprogramme nutzen veraltete Erkennungsverfahren
Veraltete Erkennungsverfahren in den aktuellen Jugendschutzprogrammen führen bei Social-Media-Angeboten nicht zu zufriedenstellenden Ergebnissen. Moderne Methoden der automatischen Inhaltserkennung nutzen dagegen Techniken des maschinellen Lernens (KI - künstliche Intelligenz), um schnell große Mengen von Daten zu klassifizieren. jugendschutz.net prüfte 2017 und 2018 die automatische Erkennung von jugendschutzrelevanten Inhalten. Getestet wurden ein bereits trainiertes, voll einsatzbereites System (Google Cloud Vision) und Programme, die das Training eines Erkennungsmechanismus ermöglichen (Facebook fastText und Google TensorFlow). Dabei waren Erkennungsquoten erzielt worden, die die Wirksamkeit gängiger Jugendschutzprogramme (ca. 80% Trefferquote) mit vergleichsweise geringem Aufwand erreichen und teilweise sogar übertreffen.
Der Bericht „Technischer Jugendmedienschutz. Zeitgemäße Entwicklung und zukunftsfähiges Schutzkonzept“ (PDF 916 KB) steht auf der Webseite von jugendschutz.net zum Download bereit.
Quelle: die medienanstalten vom 05.09.2019
Termine zum Thema
-
09.04.2024
Qualifizierung Multiplikator*in für Medienpädagogik in der Kinder- und Jugendhilfe
-
26.04.2024
Fachkongress Frühkindliche Medienbildung
-
26.05.2024
Deutsch-Japanisches Studienprogramm "Das mediale Umfeld junger Menschen – Herausforderungen und Lösungsansätze"
-
20.06.2024
Systemische Onlineberatung und Medienkompetenz
Materialien zum Thema
-
Expertise / Gutachten
Neue Publikation im Rahmen des Projekts "JAdigital": Expertise zum Thema "Digitalisierung und die Hilfen zur Erziehung"
-
Webangebot / -portal
Teste dein Wissen mit dem neuen TikTok-Quiz
-
Anleitung / Arbeitshilfe
Heute schon abgeschaltet? Finde deine digitale Balance
-
Webangebot / -portal
askit App
-
Zeitschrift / Periodikum
Wie tickt die Generation Z? – Neue Ausgabe des BLM-Magazins TENDENZ
Projekte zum Thema
-
Cluster Projekte GmbH
Modellprojekt DiKon – Digital in Kontakt sein mit jungen Menschen
-
JFF – Institut für Medienpädagogik in Forschung und Praxis
GenderONline – Geschlechterbilder und Social Media zum Thema machen
-
Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. (FSM)
Elternguide.online
-
Kultur und Art Initiative e.V.
Just like us!
-
Deutsche Kinder- und Jugendstiftung gGmbH
Technovation Girls Germany
Institutionen zum Thema
-
Hochschule
Forschungsschwerpunkt: "Digitale Technologien und Soziale Dienste"
-
Sonstige
Vision Kino - Netzwerk für Film- und Medienkompetenz gGmbH
-
Außeruniversitäre Forschungs-/Serviceeinrichtung
Informationszentrum Kindesmisshandlung / Kindesvernachlässigung
-
Verband / Interessenvertretung
Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V.
-
Stiftung / Fördereinrichtung
Deutscher Präventionstag