Jugend

Alltagshelfer, Trostspender, falsche Freunde

HopeBots, entwickelt von Dr. Simone Dinse de Salas. Bild: DRS / Annika Werner

Wie hilfreich und wie riskant ist der Umgang mit ChatGPT & Co für Jugendliche? Fachreferentin für Digitalisierung Simone Dinse de Salas im Interview.

Die Hausaufgaben erledigen lassen, schnell nach Infos fragen oder einen Rat einholen – ChatGPT und andere KI-Chatbots wie Perplexity oder Gemini sind für viele Jugendliche nicht mehr aus dem Alltag wegzudenken. Gleichzeitig unterliegen Modelle Verzerrungen und neigen zu „Halluzinationen“ – sie liefern mitunter plausible, aber falsche Antworten. Welche Kompetenzen brauchen Jugendliche also im Umgang mit KI? Wie lassen sich Potenziale nutzen und Gefahren reduzieren? Dr. Simone Dinse de Salas beschäftigt sich mit diesen Fragen. Sie ist Fachreferentin für Digitalisierung bei der Religionspädagogischen Koordinierungsstelle der Diözese Rottenburg-Stuttgart. Wir haben sie gefragt, welche Chancen und Risiken Chatbots besonders für Jugendliche bieten, wie man dafür sensibilisieren und sie sinnvoll im Religionsunterricht und der Gemeindearbeit einsetzen kann.

Wie benutzen Jugendliche Chatbots?

Die aktuelle JIM-Studie zeigt: KI ist für viele Jugendliche in kurzer Zeit zu einem zentralen Alltagswerkzeug geworden. Ob für die Schule, zur Recherche oder zur Beantwortung alltäglicher Fragen: Immer mehr Jugendliche verlassen sich auf die Hilfe von KI. Wie bereits im Vorjahr findet der häufigste Einsatz von KI im Zusammenhang mit Schulaufgaben statt: 74 Prozent der 12- bis 19-Jährigen nutzen KI-Anwendungen für Hausaufgaben oder zum Lernen. Deutlich gewachsen ist die Nutzung zur Informationssuche – sie stieg gegenüber 2024 um 27 Prozentpunkte auf 70 Prozent. Hinter klassischen Suchmaschinen wird ChatGPT bereits am zweithäufigsten als Recherche- und Informationstool verwendet. Die von KI gelieferten Informationen halten über die Hälfte der Jugendlichen dabei für vertrauenswürdig. Auch um sich erklären zu lassen, wie etwas funktioniert, setzt mehr als die Hälfte KI ein. Der Gebrauch „zum Spaß“ ist hingegen leicht rückläufig.

Laut der JIM-Studie treffen sichdreißig Prozent der 12-19-jährigen deutschen Jugendlichen nicht täglich bzw. mehrmals pro Woche mit Freunden. Zusätzlich beträgt die tägliche Online-Nutzungsdauer durchschnittlich rund 230 Minuten.

Verschiedene Anwendungen werden also dazu benutzt, um Freundschaften zu ersetzen. Die Studie Internet Matters aus Großbritannien hat Neun- bis 17-Jährige befragt und herausgefunden, dass Jugendliche Chatbots auch zur emotionaler Beratung und Gesellschaft benutzen. Über ein Drittel der Kinder, die KI-Chatbots nutzen, sagen, dass sich das Gespräch mit einem KI-Chatbot wie ein Gespräch mit einem Freund anfühlt. Der Studie nach gefährden Chatbots besonders vulnerable Jugendliche – also, diejenigen, die schon einsam sind und keine menschliche Ansprechperson haben. Die Umfrage ergab, dass rund siebzig Prozent der gefährdeten Kinder KI-Chatbots nutzen. Ein Viertel der betroffenen Kinder, die KI-Chatbots nutzen, geben an, lieber mit einem KI-Chatbot als mit einer echten Person zu sprechen. Fast genauso viele gaben an, Chatbots zu nutzen, weil sie sonst niemanden zum Reden haben. 

Bei der Schularbeit bietet KI große Potenziale. Wie sollte man sie nutzen?

Als persönliche Lerntutoren können Chatbots individuelle Rückmeldung geben: Man kann ein Skript hochladen und sich dazu abfragen oder Texte korrigieren lassen. Sie sind auch wunderbar als kreative Sparringpartner einsetzbar, beispielsweise bei Schreibaufgaben, wenn man schon selbst eine Idee entwickelt hat und sich Inspiration holt und dann entscheidet, was man verwendet und was nicht. Auch zum Sprachenlernen sind sie sehr praktisch, da man in einer Fremdsprache chatten und sich korrigieren lassen kann.

Und: Alles geht sehr schnell. Für die Schüler:innen ist natürlich toll, dass die Hausaufgaben mit einem Mausklick erledigt sind. Da kommt die Frage auf, ob es überhaupt noch Sinn macht, Hausaufgaben aufzugeben. Besonders, weil die meisten KI nicht als persönlichen Lernbegleiter benutzen, sondern weitgehend unreflektiert.

Wo liegt das Problem bei der unreflektierten Recherche mit Chatbots?

Die Jugendlichen suchen damit nach Informationen und hinterfragen die Antworten oft nicht kritisch – allerdings sind rund sechzig Prozent des Faktenwissens von Chatbots falsch.

Fehler passieren häufig bei Themen, die sich schnell wandeln. In einer Studie der Europäischen Rundfunkunion wurde zum Beispiel im Mai gefragt, wer der aktuelle Papst ist und die Chatbots haben immer den verstorbenen Vorgänger, Papst Franziskus, anstatt Papst Leo XIV. genannt.

Auch bei Zitaten ist die Wahrscheinlichkeit für Fehler hoch: Sie sind häufig verändert oder werden einer völlig falschen Person zugeschrieben.

Gibt es auch subtilere Probleme?

Ja: die Antworten der Chatbots sind oft vorurteilsbelastet. Das liegt daran, dass ihre Trainingsdaten aus dem Netz stammen, wo bereits menschliche Vorteile drinstecken. Die KI reproduziert und verstärkt diese. KI-Korpusse zu säubern oder solche zu erstellen, die Diversität widerspiegeln, wäre viel zu kostspielig. Deswegen versuchen Techfirmen, die KIs mit Systemprompts zu diversen Aussagen zu bewegen – leider kommt dabei häufig völliger Quatsch raus. Man weiß auch nicht, welches Menschenbild von den Firmen oder Regierungen hinterlegt wird – das muss nicht immer zu unser aller Wohl sein. Es gibt Organisationen wie Algorithmwatch, die mehr Transparenz schaffen möchten und mit verschiedenen Prompts überprüfen, wie Vorurteile reproduziert werden.

Wie kann man im Religionsunterricht oder in der Gemeindearbeit ein Gespür für solche Fehler oder Verzerrungen schaffen?

Indem man kleine Schritte geht. Eine Idee wäre, die Jugendlichen ein Gebäude, zum Beispiel eine berühmte Kirche wie den Kölner Dom, prompten zu lassen und zu schauen, ob das mit realem Bild übereinstimmt. Die KI-Bilder können dem Original sehr ähnlich werden – aber nie gleich. So kann man einfach ins Gespräch kommen, dass KI keine Wahrheiten liefert.

Ich habe auch „HopeBots“ entwickelt, also Hoffnungsbotschaften-Generatoren. Berühmte Persönlichkeiten wie Influencer:innen, Philosoph:innen oder Jesus geben als ChatBots hoffnungsvolle Aussagen. Eigentlich geht es aber um digitalethische Reflexion. Die Jugendlichen können prüfen: Passt das, was der Bot sagt, überhaupt zu meinem Idol? Denn ChatGPT ist nicht allwissend, es kann zwar zum Beispiel auf YouTube zugreifen, aber nicht auf Instagram, TikTok oder Twitch. Außerdem wird bei Zitaten oft nur die Wahrscheinlichkeit des nächstmöglichen Wortes berechnet und nichts auf Wahrheit überprüft.

Bei berühmten Personen, die in der Philosophie eine wichtige Rolle spielen, kann man die Jugendlichen darauf aufmerksam machen, dass hauptsächlich Männer aus dem europäischen Kontext beziehungsweise aus dem globalen Norden zitiert werden.
Frauen werden nicht repräsentiert und auch der Postkolonialismus wirkt immer noch.

Kann man die Welt mit KI – im Rahmen des Religionsunterrichts und der Gemeindearbeit – auch ein bisschen besser machen?

Man kann die Jugendlichen und andere Gemeindemitglieder auf kreative Weise in die Gemeindearbeit miteinbeziehen. Zum Beispiel kann man die Aufgabe geben, einen Prompt für die perfekte Kirche oder einen Meditationsort zu schreiben und Bilder davon zu generieren. So kann man ihre Ideen für Gebäudeumgestaltung nutzen, wenn Kirchen renoviert werden.

Es gab natürlich schon vor KI vorurteilshafte Verzerrungen – auch hier kann man ansetzen. Leonardo da Vinci hat die Apostel auf seinem Gemälde „Das letzte Abendmahl“ als weiße Europäer dargestellt – dabei sahen sie sicher anders aus. Dann kann man den Jugendlichen sagen: Erstellt mal einen Prompt, der die Menschen auf dem Bild möglichst divers und gemäß des korrekten historischen Kontextes darstellt und auch Frauen repräsentiert. Das ist relativ einfach und hat einen großen Effekt.

Als Lehrkraft für Religion oder in der Gemeinde kann man auch überlegen, wie Chatbots in der Kirche sinnvoll einsetzbar sind. In Luzern war zum Beispiel ein Jesus-KI-Chatbot im Beichtstuhl der Peterskapelle aktiv. Besuchende konnten mit der KI einen Dialog führen und viele haben das als tröstlich empfunden. Chatbots werden schließlich auch verwendet, um die Stimmung zu regulieren. Man muss sich aber natürlich im Klaren sein, dass das nicht wirklich Jesus Christus ist, sondern eine fiktive Person und nur ein zusätzliches Angebot zu echten Menschen in der Kirche.

Gespräch mit Chatbot von DagiBee — Der HopeBot Influencer generiert hoffnungsvolle Botschaften von angesagten Influencer:innen der Jugendlichen, hier z.B. Dagi Bee. Bild: DRS / Annika Werner

Wie reagieren die Jugendlichen auf die Erkenntnisse?

Ich habe mit den HopeBots in einer gymnasialen Oberstufe gearbeitet. Die Schülerinnen und Schüler waren total überrascht und auch schockiert – sie wussten nicht, dass KI Fehler macht. Sie meinten, wenn sie alles nochmal nachprüfen müssten, wäre es ja gar keine Zeitersparnis. Bei dem HopeBot, der Jesus Christus darstellt, haben sie diskutiert, ob das Blasphemie sei.

Auch wenn sie selbst Chatbots erstellen, nutzt das sehr viel. Denn sie können dabei im Kleinen eigene Charaktere erstellen und merken, wie viel Einfluss dahintersteckt. Große Firmen setzen für die Gestaltung des Charakters ihres Chatbots, zum Beispiel ChatGPT, Verhaltenspsychologen und Marketingexperten ein. Solche Übungen kann man auch schon mit Kindern machen: Eine Gruppe von Elfjährigen hat beispielsweise einen MarioChatBot mit einem leichten italienischen Akzent erstellt. Prompts selbst zu schreiben, trainiert außerdem die Sprachkompetenz und sensibilisiert dafür, dass jeder Prompt Strom kostet.

Wir haben dann auch ein Gehäuse gebastelt, das den Charakter widerspiegelt. Dadurch gibt es eine Komplexitätsreduktion. Und in einem Workshop haben wir den Bot aus Müll gebastelt, so war gleichzeitig Nachhaltigkeit als Thema miteingebaut.

Wie wirkt es sich auf die Jugendlichen aus, wenn sie ChatGPT und Co. für Freundschaften benutzen?

Jugendliche nutzen ChatGPT, um schwierige Gespräche mit Freund:innen zu simulieren und einzuüben. Ich finde, das kann eine hilfreiche Nutzung sein, wenn sie dann danach den persönlichen Kontakt suchen.

Ich befürchte aber, dass menschliche Beziehungen weniger werden: Denn Chatbots sind praktisch, sie sind 24/7 verfügbar und geben immer gefällige Antworten.

Wenn man sich mit Chatbots wie mit einem Menschen unterhält, dann kommt es zu einer Bindungsillusion, einer parasozialen Beziehung. Dazu kommt es bereits durch die sozialen Medien mit Influencern – diese Idole sind auch wichtig für die Identitätsfindung. Durch die Interaktion mit der Künstlichen Intelligenz wird sie aber verstärkt. Und die Übergänge sind fließend, denn man kann ja auch von Influencern Chatbots erstellen. Oder von verstorbenen geliebten Menschen. Hier finde ich schwierig, dass die Person vielleicht nie so geantwortet hätte und der Trauerprozess vielleicht nicht durchlaufen werden kann. Ich habe auch wegen des monetären Gedankens Sorge: Geschäftsmodelle können sich ändern und Techfirmen die emotionale Abhängigkeit von Chatbots dann ausnutzen – am Ende schlägt sich das in verschiedenen Bezahlmodellen nieder.

Gibt es keine Sicherheitsvorkehrungen für Minderjährige?

Nein, denn Plattformen wie ChatGPT sind nicht für Kinder gemacht, sondern für Erwachsene. Frauenfeindliche Inhalte können zum Beispiel verbreitet werden und verstörend wirken. Vierzig Prozent der Kinder und Jugendlichen hinterfragen auch nicht, ob es vertrauenswürdig ist, was die KI sagt und befolgen ihre Ratschläge: Das geht von „welche Hose soll ich anziehen“ bis zu Fragen zu psychischer Gesundheit. Leider ist es schon dazu gekommen, dass sich ein US-amerikanischer Teenager das Leben genommen hat, nachdem er viel mit einem Chatbot der Plattform Character AI geschrieben hat. Das ist ein Ausnahmefall, aber er zeigt den Grad an Handlungsbedarf.

Man muss sich überlegen, wie man Räume schaffen kann, wo sich Jugendliche wieder in echt begegnen, wie in Vereinen, der Kirchengemeinde und der Schule. Denn wir brauchen andere Menschen, um unseren Charakter zu bilden. Wie der jüdische Religionsphilosoph Martin Buber gesagt hat: „Der Mensch wird am Du zum Ich. Alles wirkliche Leben ist Begegnung.“

Tipps für den Umgang mit KI (nicht nur für Jugendliche)

KI nutzen, um eigene Ideen weiterzuentwickeln und sich Anregungen zu holen
Entscheidungen selbst treffen und sich überlegen, wo man dahintersteht und wo nicht
Bei allem Umgang mit KI echte menschliche Beziehungen nicht vernachlässigen, sondern vorziehen und aktiv nach Orten der Begegnung suchen
Das Potenzial der KI zum Lernen nutzen: zum Beispiel beim Sprachen lernen, Abfragen lassen, Korrektur eines eigenen Skripts
Die eigenen Daten schützen: keine Handschriften hochladen, keine echten Namen oder andere persönlichen Daten angeben
Die Informationen, die die KI ausspielt, überprüfen
Die eigenen Rechte bei DeepNudes (generierte Bilder, bei denen Menschen nackt dargestellt werden) kennen: Auch wenn Nacktfotos von Jugendlichen mit KI generiert wurden, handelt es sich dabei um Kinderpornografie und ist eine Straftat, die strafrechtlich gut verfolgbar ist.
Bilder und Videos, sogenannte Deepfakes, können leicht mit KI gefälscht werden. Deswegen sollten Inhalte, die in den Sozialen Netzwerken geteilt werden, immer überprüft werden.

Zur Person

Frau im Porträt mit Glaswand im Hintergrund — Dr. Simone Dinse de Salas. Bild: DRS / Annika Werner

Dr. Simone Dinse de Salas hat Mathematik und Religion auf Lehramt und Educational Media studiert, in Mediendidaktik/Professionalisierung von Lehrpersonen promoviert und 14 Jahre als Lehrerin gearbeitet. Heute ist sie Fachreferentin für Digitalisierung bei der Religionspädagogischen Koordinierungsstelle der Diözese Rottenburg-Stuttgart. Sie gibt Workshops für Lehrer:innen zu den Themen Künstliche Intelligenz, Digitalethik, Sinnfluencer und interkulturellen Kreativprojekten in Makerspaces. Sie begann, sich näher mit dem Thema KI und Jugendlichen zu beschäftigen, nachdem sie mitbekam, wie ihre Kinder mit dem Sprachassistenten Alexa 2021 „Schere, Stein, Papier“ spielten.