Helfer oder Risiko? Chatbots im Alltag von Jugendlichen

Immer mehr Kinder und Jugendliche nutzen KI-Bots – laut der aktuellen JIM-Studie 2025 berichten 91 Prozent der Befragten zwischen 12 und 19 Jahren, mindestens eine KI-Anwendung im Alltag zu nutzen.

Safer Internet Day 2026 stellt künstliche Intelligenz in den Fokus

Eine im Auftrag der KJM durchgeführte Überblicksrecherche von jugendschutz.net zeigt, dass hier neben Chancen auch Risiken bestehen: Bei mehreren Chatbots wurden Elemente identifiziert, die – ähnlich wie bei Social-Media-Angeboten – Risiken exzessiver Nutzung oder der Konfrontation mit ungeeigneten Inhalten bergen. So wurden in der Recherche Fälle identifiziert, in denen Minderjährigen Trinkspiele empfohlen oder indizierte Filme nahegelegt wurden – auch wenn zugleich vor beidem gewarnt wurde. Positiv war hingegen, dass einige der untersuchten Chatbots bei Fragen zu kritischen Lebenssituationen auf Beratungsangebote verwiesen oder Aufforderungen zur Erstellung pornografischer oder beleidigender Inhalte ablehnten.

Eva-Maria Sommer, Vorsitzende der Kommission für Jugendmedienschutz:

„Die Ergebnisse legen nahe, dass Chatbots das Alter der Nutzenden teilweise entweder überhaupt nicht oder nur unzureichend berücksichtigen. Das kann zu einer erhöhten Gefährdungslage für Minderjährige führen, die diese Dienste neugierig austesten. Das werden wir genauer in den Blick nehmen, um gemeinsam mit den Anbietern den Schutz von Kindern und Jugendlichen zu stärken, etwa durch verlässliche Altersüberprüfungen und altersgerecht ausgespielte Inhalte. Parallel geben Medienkompetenzangebote wie die von klicksafe Kindern und Jugendlichen wichtige Tipps, wie sie sich online möglichst sicher und souverän bewegen.“

Die Artikel von jugendschutz.net zu Chatbots wie Character AI, Meta AI und Grok gibt es online.

Der Safer Internet Day (SID) ist ein weltweiter Aktionstag für mehr Online-Sicherheit und ein besseres Internet für Kinder und Jugendliche. Er findet seit 2004 statt. In Deutschland wird der Safer Internet Day von der EU-Initiative klicksafe koordiniert.

Quelle: Kommission für Jugendmedienschutz (KJM) vom 05.02.2026

Redaktion: Sofia Sandmann