Wie reagieren die Jugendlichen auf die Erkenntnisse?
Ich habe mit den HopeBots in einer gymnasialen Oberstufe gearbeitet. Die Schülerinnen und Schüler waren total überrascht und auch schockiert – sie wussten nicht, dass KI Fehler macht. Sie meinten, wenn sie alles nochmal nachprüfen müssten, wäre es ja gar keine Zeitersparnis. Bei dem HopeBot, der Jesus Christus darstellt, haben sie diskutiert, ob das Blasphemie sei.
Auch wenn sie selbst Chatbots erstellen, nutzt das sehr viel. Denn sie können dabei im Kleinen eigene Charaktere erstellen und merken, wie viel Einfluss dahintersteckt. Große Firmen setzen für die Gestaltung des Charakters ihres Chatbots, zum Beispiel ChatGPT, Verhaltenspsychologen und Marketingexperten ein. Solche Übungen kann man auch schon mit Kindern machen: Eine Gruppe von Elfjährigen hat beispielsweise einen MarioChatBot mit einem leichten italienischen Akzent erstellt. Prompts selbst zu schreiben, trainiert außerdem die Sprachkompetenz und sensibilisiert dafür, dass jeder Prompt Strom kostet.
Wir haben dann auch ein Gehäuse gebastelt, das den Charakter widerspiegelt. Dadurch gibt es eine Komplexitätsreduktion. Und in einem Workshop haben wir den Bot aus Müll gebastelt, so war gleichzeitig Nachhaltigkeit als Thema miteingebaut.
Wie wirkt es sich auf die Jugendlichen aus, wenn sie ChatGPT und Co. für Freundschaften benutzen?
Jugendliche nutzen ChatGPT, um schwierige Gespräche mit Freund:innen zu simulieren und einzuüben. Ich finde, das kann eine hilfreiche Nutzung sein, wenn sie dann danach den persönlichen Kontakt suchen.
Ich befürchte aber, dass menschliche Beziehungen weniger werden: Denn Chatbots sind praktisch, sie sind 24/7 verfügbar und geben immer gefällige Antworten.
Wenn man sich mit Chatbots wie mit einem Menschen unterhält, dann kommt es zu einer Bindungsillusion, einer parasozialen Beziehung. Dazu kommt es bereits durch die sozialen Medien mit Influencern – diese Idole sind auch wichtig für die Identitätsfindung. Durch die Interaktion mit der Künstlichen Intelligenz wird sie aber verstärkt. Und die Übergänge sind fließend, denn man kann ja auch von Influencern Chatbots erstellen. Oder von verstorbenen geliebten Menschen. Hier finde ich schwierig, dass die Person vielleicht nie so geantwortet hätte und der Trauerprozess vielleicht nicht durchlaufen werden kann. Ich habe auch wegen des monetären Gedankens Sorge: Geschäftsmodelle können sich ändern und Techfirmen die emotionale Abhängigkeit von Chatbots dann ausnutzen – am Ende schlägt sich das in verschiedenen Bezahlmodellen nieder.
Gibt es keine Sicherheitsvorkehrungen für Minderjährige?
Nein, denn Plattformen wie ChatGPT sind nicht für Kinder gemacht, sondern für Erwachsene. Frauenfeindliche Inhalte können zum Beispiel verbreitet werden und verstörend wirken. Vierzig Prozent der Kinder und Jugendlichen hinterfragen auch nicht, ob es vertrauenswürdig ist, was die KI sagt und befolgen ihre Ratschläge: Das geht von „welche Hose soll ich anziehen“ bis zu Fragen zu psychischer Gesundheit. Leider ist es schon dazu gekommen, dass sich ein US-amerikanischer Teenager das Leben genommen hat, nachdem er viel mit einem Chatbot der Plattform Character AI geschrieben hat. Das ist ein Ausnahmefall, aber er zeigt den Grad an Handlungsbedarf.
Man muss sich überlegen, wie man Räume schaffen kann, wo sich Jugendliche wieder in echt begegnen, wie in Vereinen, der Kirchengemeinde und der Schule. Denn wir brauchen andere Menschen, um unseren Charakter zu bilden. Wie der jüdische Religionsphilosoph Martin Buber gesagt hat: „Der Mensch wird am Du zum Ich. Alles wirkliche Leben ist Begegnung.“
