Sicher mit KI aufwachsen

Künstliche Intelligenz beeinflusst bereits heute, wie Kinder lernen, kommunizieren und nach emotionaler Unterstützung suchen.

Täglich werden die Möglichkeiten durch den Einsatz von KI größer, doch Fachleute weisen auch auf die massiven Schutzlücken hin. Durch diese steigen die Risiken für Kinder und Jugendliche im Netz deutlich an, insbesondere bei sexualisierter Gewalt und Mobbing mit Deepfakes sowie psychischen Abhängigkeiten von virtuellen Gefährten (Companion-Chatbots).

Die Kinderrechtsorganisationen SOS-Kinderdörfer weltweit und Terre des Hommes haben deshalb die Vorstudie „Sicher mit KI aufwachsen“ in Auftrag gegeben. Basierend auf der Perspektive junger Menschen und internationaler KI-Expert*innen fordern sie von Tech-Unternehmen und der Politik wirksame Schutzmaßnahmen in vier zentralen Handlungsfeldern: Technik, Wissen, Recht und Beteiligung.

O-Töne

„Kinder wachsen nicht neben KI auf, sondern mit ihr. Doch während Tech-Konzerne Milliarden verdienen, bleiben junge Menschen häufig schutzlos - insbesondere gegenüber Deepfakes, manipulativen Algorithmen und emotionaler Abhängigkeit. Deshalb muss Kindesschutz von Anfang an Teil jeder KI-Anwendung sein. Wir brauchen verbindliche Standards für Safety by Design, eine wirksame Alterskontrolle und die systematische Beteiligung von Kindern an KI-Regulierung“, 

so Joshua Hofert, Vorstandssprecher von Terre des Hommes.

„Während Tech-Firmen die Entwicklung von KI-Anwendungen mit unvorstellbaren Summen vorantreiben, hinkt die gesetzliche Regulierung zunehmend hinterher. Um die Risiken für Kinder durch KI zu senken, müssen wir umfassende Maßnahmen ergreifen. Kinderschutz bedeutet aber nicht nur, Risiken zu reduzieren. Kinder und Jugendliche brauchen Kompetenzen, um digitale Räume kritisch, sicher und selbstbewusst nutzen zu können“, 

sagt Frau Prof. Dr. Sabina Schutter von den SOS-Kinderdörfern weltweit.

Die vier Handlungsfelder im Überblick:

• Schutz durch Technik - etwa durch wirksame Altersverifikation, verpflichtende altersgerechte Standardeinstellungen und das Verbot von manipulativen Mustern
• Schutz durch Wissen - etwa durch Leitlinien für Eltern und Lehrkräfte, Einbindung des Themas in Lehrpläne und Langzeitforschung zu den Auswirkungen von KI-Anwendungen
• Schutz durch Recht - etwa durch internationale Mindeststandards, die Ergänzung bestehender Gesetze und die konsequente Sanktionierung von Rechtsverstößen
• Schutz durch Beteiligung - insbesondere durch die systematische Einbindung von Kindern und Jugendlichen in die Entwicklung und Regulierung von KI

Den Forderungskatalog der beiden Kinderrechtsorganisationen finden sich unter diesem Link (PDF: 127KB).

Weitere Informationen sowie einen Link zur Studie können hier abrufen werden: www.tdh.de/sicher-mit-ki

Quelle: Terre des Hommes Deutschland e.V. (o.D.) 

Redaktion: Lena Gabert