„KI kann nicht knutschen“

Die Gewerkschaft Erziehung und Wissenschaft (GEW) schlägt mit Blick auf den Safer Internet Day mit dem Motto „KI and me. In künstlicher Beziehung“ eine Offensive für mehr kritische Medienbildung über Künstliche Intelligenz (KI) vor. „Zentral ist, das Wohlbefinden, die Selbstwirksamkeit und das Miteinander der Schülerinnen und Schüler in der realen Welt zu stärken“, sagten Anja Bensinger-Stolze, GEW-Vorstandsmitglied Schule, und Ralf Becker, GEW-Vorstandsmitglied Berufliche Bildung und Weiterbildung, am Montag in Frankfurt a.M.

KI werde von Kindern und Jugendlichen immer häufiger im Privaten genutzt, zum Beispiel KI-Begleiter, KI-Chatbots und KI-Plattformen, in denen KI-Avatare reale Personen ersetzen – oft mit unrealistischen und insbesondere für Mädchen problematischen Körperbildern. Die GEW setze sich dafür ein, dass Schule das Wohlbefinden der Kinder und Jugendlichen ins Zentrum rückt. Hierzu gehöre auch die Erfahrung der Selbstwirksamkeit in realen Beziehungen. So gut Chatbots auch helfen könnten, etwa Prüfungssituationen oder Vorstellungsgespräche zu simulieren, um Ängste abzubauen, so gefährlich sei es, wenn der Unterschied zu realen Personen verwischt oder künstliche reale Beziehungen verdrängen.

„In der Schule und den außerschulischen Bildungseinrichtungen muss dringend ein kritisch-reflexiver, kreativer und mündiger Zugang zu den Medien gefördert werden. Das gilt auch für KI-Anwendungen. Kinder und Jugendliche müssen KI und auf dieser basierende künstliche digitale Welten als solche begreifen lernen und dürfen keinen Realitätsverlust erleben.“, 

sagte Bensinger-Stolze. 

Die reale Welt sei voll schöner, aber auch schwieriger Dinge, gerade in der Pubertät – Widerstände und Widersprüche inklusive. Es sei mehr als verständlich, wenn Jugendliche sich in digitale Welten begeben, in denen sie Verständnis, Zeit, Zuwendung und Zustimmung erfahren. Doch genau hierin liege auch eine Gefahr: Plattformen wie Character AI oder auch die inzwischen überall integrierten Chatbots passten sich – anders als das reale Leben – perfekt an. 

„Manche Jugendliche leben immer mehr in ihrer digitalen Parallelwelt. Sie ziehen sich zurück und entwickeln Ängste, am realen Leben teilzunehmen, zum Beispiel echte Menschen anzusprechen. Deshalb ist das Thema des Safer Internet Days ‚KI and me. In künstlicher Beziehung‘ immens wichtig. KI kann nicht knutschen. Wir müssen dringend das Wohlbefinden und die Selbstwirksamkeit der Kinder und Jugendlichen in der Schule ins Zentrum rücken. Sonst laufen wir Gefahr, dass manche Kinder und Jugendliche ihre psychischen Probleme mit der KI teilen, aber von den Erwachsenen sowie ihren Mitschülerinnen und -schülern alleine gelassen werden.",

betonte Bensinger-Stolze.

Becker unterstrich angesichts der jüngsten JIM-Studie (Jugend Internet Medien): „Die JIM-Untersuchung 2025 zum Medienumgang der Zwölf- bis 19-Jährigen hat gezeigt, dass mehr als die Hälfte der Jugendlichen nicht in der Lage ist, Deepfakes zu erkennen. Die Gefahr ist groß, dass die Grenzen zwischen dem Imaginären und der Realität immer mehr verwischen.“ Mit Blick auf den Datenschutz sagte Becker: 

„Die zunehmende Nutzung von KI-Plattformen und KI-Begleitern ist gefährlich. Jugendliche vertrauen KI-Chatbots immer häufiger sensible Daten über ihre Gefühle an. Doch was passiert mit diesen Daten? Wir brauchen Regulierung und eine gesicherte DSGVO-konforme Nutzung (Datenschutz-Grundverordnung) der KI-Bots. Niedrigschwellige Beratungsmöglichkeiten für Jugendliche sind wichtig. KI-Bots können für manche Jugendliche die Hürde senken, Hilfe zu suchen. Doch in Krisensituationen müssen dann echte Profis und echte Menschen ran!“

Quelle: Gewerkschaft Erziehung und Wissenschaft (GEW) vom 09.02.2026

Redaktion: Christin Jauch