Machbarkeitsstudie

Digitaler Jugendschutz mit künstlicher Intelligenz

Ein geschlossenes Vorhängeschloss steht auf einer Computertastatur.

Durch die Corona-Pandemie hat sich vieles im Sozialleben ins Digitale verlagert; auch Kinder und Jugendliche nutzen noch stärker als vorher digitale Dienste und Kommunikationstools. Gleichzeitig, so warnt die europäische Polizeibehörde Europol, steigt die Gefahr durch Cybergrooming. Eine Machbarkeitsstudie des Fraunhofer-Instituts für Sichere Informationstechnologie (SIT) im Auftrag des Landes Hessen zeigt, welche Technologien dabei helfen können, Kinder und Heranwachsende vor Übergriffen im Netz und Fehlern beim Umgang mit digitalen Medien zu schützen. Ergebnis: Mithilfe künstlicher Intelligenz und Multimediaforensik können viele Delikte erkannt oder sogar unterbunden werden.

14.02.2022

Laut polizeilicher Kriminalstatistik stieg die Zahl der Delikte im Bereich kinder- und jugendpornografischer Schriften im Pandemiejahr 2020 um mehr als 50 Prozent an. Auch Cybergrooming, das gezielte sexuelle Umgarnen und Manipulieren von Kindern im Internet, hat während der Pandemie enorme Ausmaße angenommen, meldet der unabhängige Beauftragte für Fragen des sexuellen Kindesmissbrauchs (UBSKM).

Online-Dienste wie Messenger, soziale Medien, Chatforen von Online-Spielen und Ähnliches spielen hier eine besondere Rolle, denn sie ersetzen in der Corona-Krise noch mehr als sonst die analoge Kommunikation für Kinder und Jugendliche. Johannes-Wilhelm Rörig, der unabhängige Beauftragte der Bundesregierung für Fragen des sexuellen Kindesmissbrauchs, forderte deshalb jüngst, dass Kinder gerade jetzt noch besser vor Missbrauch im Netz geschützt werden. Welche Technologien dabei helfen können, untersuchte eine Machbarkeitsstudie des Fraunhofer SIT. Besonderer Schwerpunkt bei der Technologiebeurteilung lag auf der praktischen Umsetzbarkeit.

KI verhindert Versand von Nacktbildern

Das Versenden von Nacktfotos über Messenger-Dienste – Sexting genannt – ist auch unter Heranwachsenden verbreitet. Bei Minderjährigen kann das unbedachte Versenden von Nacktbildern zu Problemen führen, wie Mobbing oder Erpressung: einmal verschickt, können Nacktbilder unkontrolliert weitergeleitet werden. Viele Jugendliche wissen auch nicht, dass selbst das Weiterleiten von Nacktbildern Minderjähriger schon strafbar ist. Um unbedachtes Sexting zu verhindern, haben Forschende des Fraunhofer SIT in ihrer Machbarkeitsstudie unterschiedliche technische Verfahren der automatischen Bilderkennung geprüft, die unter anderem auf einem Deep-Learning-Netz basieren.

Mit dieser Art der künstlichen Intelligenz lässt sich ein Nacktbild mit hoher Genauigkeit erkennen. So lassen sich zum Beispiel auf einem Smartphone Nacktbilder als solche identifizieren. Jugendliche könnten also technisch davon abgehalten werden, Nacktbilder zu erstellen und zu verbreiten.

„Das in dieser Studie vorgestellte technische Verfahren zur Erkennung von Nacktbildern basiert auf einem neuronalen Netz. Da dieses lokal auf dem Smartphone ausgeführt wird, schützt es, ohne die Privatsphäre durch die Weiterleitung von Bildern an einen Server zu gefährden“, sagte Studienleiter Prof. Martin Steinebach.

Schutz vor Online-Anbahnung von sexuellem Missbrauch

Auch vor Cybergrooming können neue Technologien Kinder und Jugendliche besser schützen. Cybergrooming bezeichnet die Kontaktaufnahme von Erwachsenen zu Minderjährigen in Chatrooms, Foren oder Online-Spielen mit dem Ziel, sexuellen Missbrauch an den Heranwachsenden zu begehen. Dabei geben die Täter ein falsches – jüngeres – Alter an. Über textforensische Profiling-Technologien lässt sich das Alter von Chat-Teilnehmenden einschätzen. Falls das angegebene (junge) Alter nicht mit dem Schreibstil des (eigentlich erwachsenen) Teilnehmenden zusammenpasst, könnte die Moderation des Forums benachrichtigt werden. Auch wenn bereits bekannte auffällig gewordene und geblockte Personen mit einem neuen Profil in Foren unterwegs sind, können textforensische Methoden dies mit einer gewissen Wahrscheinlichkeit erkennen.

Die ausführlichen Beschreibungen und Ergebnisse der technischen Untersuchungen sowie das Training des neuronalen Netzes haben die Wissenschaftlerinnen und Wissenschaftler des Fraunhofer SIT in der Machbarkeitsstudie beschrieben. Die Studie wurde bereits 2018 im Auftrag des Hessischen Ministeriums des Innern und für Sport fertiggestellt und wird jetzt auch der Öffentlichkeit zur Verfügung gestellt.

Die Studie ist frei verfügbar unter www.sit.fraunhofer.de/jugendschutz.

Quelle: Fraunhofer-Institut für Sichere Informationstechnologie (SIT) vom 10.02.2022

Redaktion: Pia Kamratzki

Back to Top