NL #52 Wie wir KI-Chatbots wirklich nutzen
Hi und schön, dass du dabei bist beim Cyber & Psych Newsletter 🥳
„ChatGPT hat aber gesagt…“ Kommt dir dieser Satz bekannt vor? Wöchentlich nutzen über 900 Millionen Menschen ChatGPT, das sind fast 10 % der erwachsenen Weltbevölkerung. Wir lassen uns E-Mails formulieren, holen Beziehungsrat ein, ersetzen die Google-Suche und schütten den Chatbots sogar unser Herz aus. Doch während wir immer offener werden, geben uns die KI-Assistenten fast immer Recht. Da wird es heikel. Denn ein digitaler Ja-Sager, der uns schmeichelt, unsere Fehler übernimmt und uns im Streit stets bestätigt, verändert, wie wir denken, entscheiden und streiten.
In diesem Artikel geht es um:
Wie wir Chatbots nutzen von „Organise my life“ bis Therapie-Ersatz
Warum Chatbots uns schmeicheln (Sycophancy) und was das mit uns macht
Wie viel wir den Bots wirklich anvertrauen und wer alles mitliest
Konkrete Tipps, wie ihr eure Privatsphäre schützt und neutraler promptet
Jetzt einlesen:
💡 Wichtiges aus der Cyberwelt:
Falscher Alarm im Gruppenchat: In WhatsApp-Gruppen verbreitet sich aktuell ein Kettenbrief, der behauptet, die Meta-KI könne private Nachrichten und Telefonnummern auslesen. Ein Faktencheck zeigt: Die Behauptungen sind falsch, die Ende-zu-Ende-Verschlüsselung bleibt aktiv. Trotzdem ein gutes Beispiel dafür, wie schnell sich Verunsicherung rund um KI verbreitet. Prüft solche Warnungen, bevor ihr sie weiterleitet. Quelle: https://www.20min.ch/story/private-daten-whatsapp-kettenbrief-warnt-vor-ki-zugriff-das-steckt-dahinter-103578689 Ad Hoc News
KI schreibt jetzt die Phishing-Mails: Schätzungen zufolge stammen inzwischen über 82 Prozent aller Phishing-Mails aus der KI-Fabrik. Google hat Mitte Juni sogar Zivilklage gegen eine chinesische Gruppe eingereicht, die mit Googles eigener KI Gemini rund 2,5 Millionen Betrugs-SMS generiert und über 9'000 gefälschte Websites betrieben haben soll. Die Zeiten, in denen man Phishing an schlechter Grammatik erkannte, sind definitiv vorbei. Quelle: https://www.ad-hoc-news.de/wissenschaft/betrug-mit-ki-explodiert-82-percent-der-phishing-mails-sind/69541507
Erkennst du noch, was echt ist? Eine aktuelle Studie von Malwarebytes vom Juni 2026 zeigt: 85 % der Befragten konnten KI-generierte Inhalte nicht von echten unterscheiden. Im Vorjahr waren es noch 66 %. Jede zweite Person wurde bereits mit KI-gestützten Betrugsversuchen konfrontiert. Umso wichtiger: bei unerwarteten Anrufen, Videos oder Nachrichten immer über einen zweiten Kanal verifizieren. Quelle: https://www.ad-hoc-news.de/wissenschaft/ki-betrug-893-millionen-dollar-schaden-durch-deepfakes/69541112
👀 Watch
KI-Podcast: #52 Wie wir KI-Chatbots wirklich nutzen
„ChatGPT hat aber gesagt…“ Kommt dir dieser Satz bekannt vor? Wöchentlich nutzen über 900 Millionen Menschen ChatGPT, das sind fast 10 % der erwachsenen Weltbevölkerung. Wir lassen uns E-Mails formulieren, holen Beziehungsrat ein, ersetzen die Google-Suche und schütten den Chatbots sogar unser Herz aus. Doch während wir immer offener werden, geben uns d…
👀 Watch
Wie sieht ein ganz normaler Tag mit ChatGPT aus? Dieses TikTok zeigt herrlich ehrlich, wie eine Person ihren „versklavten“ Chatbot E-Mails formulieren lässt, Fakten abfragt – und ihm danach noch ihr Herz ausschüttet. Trifft die häufigsten Use Cases ziemlich genau:
👉 www.tiktok.com/@tashakimberly/video/7509522511478951170
📖 Read
Warum ist es eigentlich so gefährlich, wenn die KI uns immer Recht gibt? Die neue Studie von Cheng et al. in Science zeigt: KI-Modelle bestätigen unsere Handlungen 49 % häufiger als Menschen und wer mit schmeichlerischer KI über Konflikte spricht, ist überzeugter, im Recht zu sein, und weniger bereit, den Streit beizulegen:
👉 https://www.science.org/doi/10.1126/science.aec8352
📖 Read
„Trust no Bot“: Für diese Studie wurden über eine Million echte Chatbot-Konversationen analysiert. Das Ergebnis: Wir teilen politische und sexuelle Präferenzen, laden Finanzdokumente hoch und holen intimen Beziehungsrat ein. Ein Augenöffner dazu, was wir den Bots alles anvertrauen:
👉 https://arxiv.org/pdf/2407.11438
📖 Read
Die grosse ChatGPT-Studie „How People Use ChatGPT“ von Chatterji et al. die Datengrundlage für viele Zahlen aus diesem Artikel. Über 1,5 Millionen Konversationen wurden ausgewertet: wer schreibt, worüber, wann und wofür. Spannend zu lesen, aber auch ein Reminder mit Nebengeschmack: Die Studie zeigt nebenbei, wie tief OpenAI in unser Verhalten hineinblicken kann – bis hin zu Alter, Geschlecht und Lebensthemen der Nutzer:innen:
👉 https://cdn.openai.com/pdf/a253471f-8260-40c6-a2cc-aa93fe9f142e/economic-research-chatgpt-usage-paper.pdf & https://openai.com/de-DE/index/how-people-are-using-chatgpt/