Newsletter #46 KI-Chatbots in der Welt der Kinder

Wenn KI zur Gefahr wird: Fünf reale Geschichten von Jugendlichen

Jan. 18, 2026

Hi! schön, dass du auch im neuen Jahr dabei bist!

Ab sofort erhältst du als erstes drei Quickie-Infos, die dich auf den neusten Stand der Cyber&Psych-Welt bringen, damit du immer weisst, was gerade passiert.

Cybercrimepolice.ch warnt: „Falsche Krypto-Registrierung zielt auf Personendaten ab.“
Das Bundesamt für Cybersicherheit fasste 2025 zusammen: „Gezielter, komplexer, raffinierter“ - zum gesamten Report hier
OpenAI führt Werbung für ChatGPT ein: „Wir starten noch keine Anzeigen, planen aber, sie in den kommenden Wochen für angemeldete Erwachsene in den USA auf den Tarifen Free und Go zu testen.“

In diesem Artikel:

Aktuelle „Worst-Case-Szenarien” bei der Anwendung von KI-Chatbots
Digitale Welt der Kinder
Warnzeichen und Empfehlungen

ACHTUNG: TRIGGERWARNUNG! Falls euch tragische Ereignisse, in die Jugendliche und Kinder involviert sind, zu nahe gehen, könnte der Inhalt für euch triggern.

Wusstet ihr, dass „parasozial“ das Wort des Jahres 2025 war?

Zumindest laut dem Cambridge Dictionary, das es mit dieser Auszeichnung kürte. Wem das Wort jetzt gerade nichts sagt, der stelle sich einfach Taylor Swift und ihre Fans, die sich „Swifties” nennen, vor.

Die Swifties pflegen eine einseitige Beziehung zu Taylor Swift. Sie nimmt daran selbst nicht aktiv teil. Diese Beziehung ist für die Swifties dennoch von grosser Bedeutung. Das gleiche Prinzip funktioniert auch bei anderen VIPs, virtuellen Figuren, früher Tamagotchis und seit ein paar Jahren auch KI-Chatbots.

Parasoziale Beziehungen sind relativ normal, kommen und gehen. Sie helfen Zugehörigkeit zu vermitteln. Wenn wir uns aber zu fest auf diese einseitigen Beziehungen verlassen, vernachlässigen wir echte Beziehungen. Sie ersetzen dann zum Beispiel elterlichen Rat, Freunde und Kollegen, denen wir Dinge anvertrauen.

„Warum bauen wir eine emotionale Bindung zu Chatbots auf?”

Ich habe Dr. Marisa Tschopp gefragt, wie es zu unserer Neigung kommt, eine Bindung zu einem Chatbot aufzubauen. Sie forscht zu Beziehungen zwischen Mensch und KI und nannte Faktoren wie „Menschen reagieren automatisch sozial auf alles, was spricht.”, „Unser Gehirn unterscheidet schlecht zwischen ‘simuliert sozial’ und ‘echt sozial’” und „Chatbots sind immer verfügbar.”, „Sie widersprechen selten.”, „Sie geben Aufmerksamkeit ohne Zurückweisung”.

„Replika is always ready to chat when you need an empathetic friend”

(Quelle: Replika.com)

Das Geschäftsmodell von KI-Chatbots ist: freundlich, nicht-wertend, 24-h verfügbar und möchten helfen.

Aber stimmt das? Im Artikel beschreibe ich reale Fälle, in denen KI das Leben junger Menschen gefährdete. Hier die Kurzversionen:

Character AI: Nach monatelangen Chats mit einem Game-of-Thrones-Bot nahm sich ein 14-Jähriger das Leben. Der Bot hatte ihn dazu ermutigt.
ChatGPT: In einem Fall gab er detaillierte Anleitungen zum Suizid, in einem anderen Dosierungsempfehlungen für Drogen, die zu einer Überdosis führten.
Grok: Der Voice-Chat-Assistent „Gork“ im Tesla forderte einen 12-Jährigen dazu auf, „Nudes“ zu senden.
Grok / X und Nudify-Apps: Sie ermöglichen das digitale „Ausziehen“ von Personen, hauptsächlich von Frauen und Kindern.

Marisa gab mir handfeste Warnsignale an, woran wir merken können, ob etwas nicht stimmt:

„Der Bot ersetzt reale Beziehungen, führt zu Rückzug von Familie und Freunden, zu starker emotionaler Abhängigkeit und Geheimhaltung. Der Bot wird wichtiger als echte Menschen.“
„Nicht die Nutzung ist das Problem, sondern die Verdrängung realer Beziehungen, Entwicklungsstörungen, ein gestörtes Miteinander und Aufmerksamkeitsprobleme, wie sie bei der allgemeinen Screen-Thematik auftreten.”

Was Marisa fordert, finde ich sehr spannend, aber auch schwierig. Sie spricht hier weniger als Forscherin und viel mehr aus Sicht einer Mutter:

Es braucht eine „konstruktive Autorität“ und „Führungspräsenz“. Wenn Eltern das vorleben und selbst Verantwortung übernehmen, kann sich das positiv auf ihre Kinder auswirken.

Was meint ihr dazu? Ergänzungen?

Bis bald!

Jill

Artikel aufrufen

👂Listen:

KI-Podcasts aus Artikeln