hris erklärt, warum heute abgehört wird: Es geht fast immer um Informationsbeschaffung. Ob Konkurrenz, staatliche Akteure, die Vorbereitung eines Cyberangriffs oder Erpressung. Die Geräte werden immer günstiger, die Qualität der Mikrofone ist enorm gestiegen, und wir machen es den Angreifern oft viel zu einfach.

3 Dinge, die ich aus dem Gespräch mitgenommen habe:

Abhören ist viel einfacher als gedacht: Ein Besucher, der drei Minuten allein im Büro sitzt, reicht. Eine Wanze ist in Sekunden platziert. Chris rät deshalb, fremde Personen nie allein im Sitzungszimmer zu lassen. „Auch wenn alle sehr nett und freundlich sind.“ (Chris)

Wer nicht weiss, was er hat, kann es nicht schützen: In einer Bank hing unter dem Tisch noch eine alte Mikrofonanlage, verbunden mit der neuen Videokonferenzanlage. Sie hat ständig aufgenommen, niemand wusste davon.

Technik allein findet keine Wanzen: Frequenzmessung, Wärmebildkamera, Linsensuche, Röntgen. All das gehört dazu. Die andere Hälfte ist kriminalistisches Denken. Nach einem Umbau fand Chris’ Team vier Wanzen in drei Geschäftsleitungsbüros. Die Geräte hatten nichts angezeigt. Aufgefallen ist es einer Mitarbeiterin, weil ein Netzgerät mit Klebeband statt mit Kabelbindern befestigt war.

Dazu war das Ganze gewürzt mit spannenden Geschichten aus Chris’ Nähkästchen: Von einer Wanze zwischen 30 Modellautos über eine heimlich installierte zweite Kamera in einer Villa bis zu abgehörten Autos!

Ein paar Auszüge aus dem Gespräch:

• „Letztlich geht es immer ums Gleiche: Informationsbeschaffung.“

• „Die guten Wanzen kaufst du nicht ab der Stange.“

• „Mit dem Fernsehkrimi hat das nichts zu tun.“

• „Ein Kopf genügt in diesem Bereich einfach nicht.“

• „Überall, wo Geld im Spiel ist. Überall, wo Macht ausgeübt wird.“

Zum Abschluss erinnert Chris daran, dass die Haltung „Uns kann das nicht passieren“ nicht mehr zeitgemäss ist. Sein Tipp: sich bewusst machen, wer in der Firma ein und aus geht, wer Zutritt und Zugriff hat, und physische Schwachstellen ernst nehmen.

Bis bald!
Jill

Hier findet ihr Chris:

LinkedIn: https://www.linkedin.com/in/chris-eckert-/

Swiss Business Protection AG: https://www.swissbp.ch/de

Reinhören:
Spotify Cyber & Psych
Apple Cyber & Psych
Youtube Cyber & Psych

In dem Artikel werden folgende Fragen behandelt:

• Was ist Voice-Cloning-Vishing?

• Welche Fälle zeigen, wie es funktioniert?

• Warum glauben wir der Stimme?

• Was zeigt die Forschung?

• Was hilft?

TL/DR

Alte Masche, neue Stimme: Beim Voice-Cloning-Vishing stellt eine KI die Stimme einer bestimmten Person nach. Ein paar Sekunden Audio reichen.

Drei typische Fälle: Beim CEO-Betrug ruft scheinbar ein bekannter Geschäftspartner oder Anwalt an, es geht um ein vertrauliches Geschäft unter Zeitdruck. So verloren ein italienischer Bankpräsident und ein Schwyzer Unternehmer Millionen. Beim Schockanruf weint scheinbar die eigene Tochter am Telefon, danach fordert jemand Lösegeld oder Kaution. In Grossbritannien sammeln Täter mit falschen Umfragen Stimmproben und richten mit dem Klon bei Banken Lastschriften ein.

Warum wir der Stimme glauben: Wir geben anderen grundsätzlich einen Vertrauensvorschuss, der Kommunikationswissenschaftler Timothy Levine nennt das Truth-Default.

Was die Forschung zeigt: In einer US-Studie mit 4’100 Erwachsenen gaben 16,5 % an, sie würden einer KI-Betrugsaufforderung folgen oder seien unsicher.

Was hilft: Auflegen ist erlaubt. Danach selbst zurückrufen, über eine Nummer, die ihr kennt und selbst wählt.

Fazit: Die Stimmen werden besser, unser Verhalten haben wir selbst in der Hand. Auflegen, zurückrufen, nachfragen.

Jetzt einlesen: Zum Artikel

💡 Wichtiges aus der Cyberwelt

Fideuram: Neue Zahlen und ein Verdächtiger: Ende September wurde bekannt, dass beim Betrug an der italienischen Privatbank fast 95 Millionen Euro abfliessen sollten. https://www.blick.ch/digital/95-millionen-euro-mit-ceo-masche-von-privatbank-geklaut/zbbqv12

Gericht in Tokio schützt die Stimme: Das Bezirksgericht Tokio entschied am 30. September, dass die unerlaubte kommerzielle Nutzung der Stimme eines Sprechers dessen Persönlichkeitsrechte verletzen kann. https://www.courthousenews.com/japan-court-rules-human-voice-is-protected-in-tiktok-ai-case/

Fünfeinhalb Stunden am Telefon: Die Kalifornierin Deborah Del Mastro hörte am Telefon scheinbar ihre Tochter weinen, ein Mann behauptete, ein Kartell habe sie entführt. Er hielt sie fünfeinhalb Stunden in der Leitung, gab ihr eine Ausrede für allfällige Nachfragen vor und liess sich in vier Überweisungen 5'400 Dollar schicken. https://www.foxnews.com/tech/ai-voice-scam-traps-mom-5-hour-kidnapping-nightmare

👂 Listen

📖 Read

Ein fehlender Akzent entlarvt den Deepfake-Chef: Eine Mitarbeiterin der Identitätsfirma Veriff erhielt eine dringende WhatsApp-Nachricht des CEOs, danach folgte ein Videoanruf mit einem Echtzeit-Deepfake. Ihr fiel auf, dass sein estnischer Akzent fehlte. Sie prüfte über Slack nach, ein Schaden entstand nicht. Zum Post von Kaarel Kotkas

🛠 Do

Legt diese Woche eure Rückruf-Regel fest. Privat: Speichert die Nummern eurer Liebsten und eine zweite Kontaktperson, falls jemand nicht abnimmt.

Bis bald!

Jill Wick Cyber & Psych teilen

In dem Artikel werden folgende Fragen behandelt:

• Was ist Voice-Cloning-Vishing?

• Welche Fälle zeigen, wie es funktioniert?

• Warum glauben wir der Stimme?

• Was zeigt die Forschung?

• Was hilft?

Jetzt einlesen: Zum Artikel

Für einen Millionenbetrug reicht offenbar eine Stimme. Das Drehbuch des Betruges an sich am Telefon hat sich wenig verändert. Neu ist, wer am anderen Ende spricht.

In diesem Artikel werden folgende Fragen behandelt:

1. Was ist Voice-Cloning-Vishing?

2. Welche Fälle zeigen, wie es funktioniert?

3. Warum glauben wir der Stimme?

4. Was zeigt die Forschung?

5. Was hilft?

Was ist Voice-Cloning-Vishing?

Vishing steht für Voice Phishing, also Betrug per Telefon oder Sprachnachricht. Beim Voice Cloning stellt eine KI die Stimme einer bestimmten Person nach. Ein kurzer Ausschnitt der Stimme, etwa aus Inhalten, die online stehen, plus ein Programm zum Klonen reichen. Ein Informatikprofessor der Arizona State University sprach 2023 von Aufnahmen ab drei Sekunden. knowbe4azfamily

Das Muster dahinter kennen wir seit Jahrzehnten. Jetzt können die Täter mit der Stimme einer Person anrufen, die wir kennen.

Drei Typische Fälle mit Stimmen-Betrug

CEO-Betrug

Paolo Molesini ist Präsident der italienischen Privatbank Fideuram. Er bekommt im Februar 2026 eine WhatsApp-Nachricht, scheinbar von Carlo Messina, CEO des Mutterhauses. Ein Auslandsgeschäft drohe zu platzen! Paolo müsse die Zahlungen übernehmen.

Kurz darauf ruft ein Wirtschaftsanwalt an, den Paolo kennt, und er erkennt die Stimme. Der echte Anwalt weiss von nichts, seine Stimme wurde mit KI geklont. Danach kommen E-Mails mit Kontoangaben, scheinbar aus der Kanzlei. 36 Millionen Euro Schaden entsteht durch diesen Betrug.

Im Mai 2026 trifft es ebenfalls eine italienische Bank; die Banca Ifis. Eine Managerin löst Zahlungen von rund 24 Millionen Euro aus. 20 Millionen kommen zurück. Laut italienischen Medien untersucht die Mailänder Staatsanwaltschaft weitere Fälle, in denen geklonte Stimmen, gefälschte Nachrichten und E-Mails Bankkader zu Auslandsüberweisungen brachten.

Auch in der Schweiz verlor Mitte Januar 2026 ein Firmeninhaber im Kanton Schwyz mehrere Millionen. Die Täter riefen ihn an und gaben sich mit einer KI-Stimme als bekannter Geschäftspartner aus. Es ging um ein angeblich vertrauliches internationales Geschäft.

Das Muster: Eine vertraute Person, ein vertrauliches Geschäft und Zeitdruck. Betroffen sind erfahrene Leute: ein Bankpräsident, eine Managerin, ein Unternehmer. Das Drehbuch ist gut genug für Profis.

Anruf aus der Familie

Anfang 2023 klingelt das Telefon von Jennifer DeStefano in Scottsdale, Arizona. Sie ist im Tanzstudio ihrer anderen Tochter. Am Apparat scheint ihre 15-jährige Tochter zu sein. Dann übernimmt ein Mann, behauptet eine Entführung und verlangt eine Million Dollar Lösegeld. Was sie hört, klingt nach der Stimme ihrer Tochter, inklusive Weinen und Schluchzen.

Quelle: Beispiel eines Schockanrufes, Landeskriminalamt Niedersachsen, 2026

Das Muster: Das Muster ist bekannt als Schockanruf. Im Mai 2026 forderte etwa eine angebliche Staatsanwältin von einer 68-jährigen Frau in der Schweiz eine Kaution von mehreren zehntausend Franken, weil ihre Tochter einen Unfall verursacht habe. Die Frau rief die Polizei, ein mutmasslicher Geldabholer wurde verhaftet. Bei solchen Anrufen fehlte den Tätern bisher meistens die echte Stimme der Tochter. KI kann diese Lücke schliessen.

Die eigene Stimme als Schlüssel

Die britische Behörde National Trading Standards warnte im Februar 2026 vor einer Masche, die mit einem scheinbar harmlosen Anruf für eine sogenannte Lifestyle-Umfrage beginnt. Dabei sammeln die Täter persönliche, gesundheitliche und finanzielle Angaben.

Muster: Aus der Aufnahme erstellen die Betrüger mit KI einen Klon der Stimme. Danach rufen sie bei Banken oder Anbietern an und geben sich mit diesem Klon als die betroffene Person aus. So richten sie Lastschriften ein, die scheinbar mündlich bewilligt wurden. Ab dann wird regelmässig Geld abgebucht, oft ohne dass die Person es merkt.

Warum glauben wir der Stimme?

Wir glauben grundsätzlich und geben den Menschen einen Vertrauensvorschuss. Der Kommunikationswissenschaftler Timothy Levine nennt das den Truth-Default, die Wahrheits-Voreinstellung. Seine zentrale Annahme: Menschen glauben anderen in der Regel, und das ist evolutionär sinnvoll. Ohne diesen Vertrauensvorschuss würde kaum ein Gespräch funktionieren. Misstrauisch werden wir erst, wenn uns etwas aufschreckt.

Täuschung erkennen wir laut Levine am ehesten über den Inhalt im Kontext, weniger über nervöse Körpersignale. Passt das, was gesagt wird, zu dem, was ich über die Person weiss? 2024 meldete ein Schweizer Unternehmen dem Bundesamt für Cybersicherheit den ersten Deepfake-Fall des Landes. Der Finanzchef sass in einer Videokonferenz mit seinem angeblichen Chef. Der trug Hemd und Krawatte, was nicht zu ihm passte, und die Stimme klang seltsam. Kleidung und Stimme verrieten den Deepfake.

Weitere Effekte:

Die vertraute Stimme ist eine Denk-Abkürzung. Wer die Stimme der Tochter oder des Geschäftspartners hört, muss nicht mehr überlegen, wer anruft. Das Gehirn hat die Frage schon beantwortet.

Druck schaltet das Prüfen ab. Eine Studie hat Gespräche von Telefonbetrügern in China analysiert. Die Täter arbeiten mit vorbereiteten Skripten und setzen Wiederholungen, Unterbrechungen sowie eine lautere und höhere Stimme gezielt ein, um Panik auszulösen. In diesem Zustand übernimmt vermutlich das schnelle, intuitive Denken, das Daniel Kahneman System 1 nennt. Prüfen braucht Zeit, und das spielen Betrüger bewusst aus.

Autorität wirkt: Staatsanwältin, Wirtschaftsanwalt, CEO: Die Täter wählen Rollen, denen wir selten widersprechen. Die Technik hilft nach, denn die angezeigte Nummer lässt sich fälschen. In einem Feldexperiment mit 3'000 Angehörigen einer Universität hatte eine gefälschte Anruferkennung einen deutlichen Effekt darauf, ob die Angerufenen ihre Sozialversicherungsnummer preisgaben.

Vertraulichkeit: In Schwyz ging es um ein vertrauliches Geschäft. Beim Schockanruf heisst es oft, niemand solle informiert werden. Wenn auf Vertraulichkeit gepocht wird, isoliert uns das und trennt uns von den Menschen, die uns sonst zurückhalten würden.

Was zeigt die Forschung?

Eine Forschungsgruppe hat 2026 untersucht, wie gut KI-Stimmen Menschen zum Mitmachen bringen. 4’100 Erwachsene in den USA hörten eine Aufnahme oder lasen eine Abschrift aus einem von fünf Betrugsszenarien.

Über alle Szenarien gaben 16,5 % an, sie würden der Aufforderung folgen oder seien unsicher. Persönliche, emotionale Szenarien wirkten deutlich stärker als der angebliche Karten- oder Gmail-Support.

Die Forschenden empfehlen, in der Sensibilisierung auf das Erkennen manipulativer Gesprächsmuster zu setzen. Und sie empfehlen, das Stigma für Betroffene zu senken, damit mehr Fälle gemeldet werden. Beides passt zu einer Überzeugung, die mich in meiner Arbeit begleitet: Scham ist eine der grössten Hürden in der Cybersicherheit.

Was hilft?

Privat: Selbst zurückrufen, über eine Nummer, die ihr selbst kennt und selbst wählt.

Geschäftlich: Rückfragen von oben erlauben, CEO sagt dann beispielsweise: „Falls ich je anrufe und eine dringende Zahlung will, ruft mich bitte zurück. Ich werde mich darüber freuen.“

Am wichtigsten finde ich: Auflegen ist erlaubt. Ein echter Notfall übersteht in aller Regel die fünf Minuten für einen Rückruf.

Die Stimmen werden besser und KI wird sich in nächster Zeit stets verbessern. Beim Verhalten haben wir es selbst in der Hand: auflegen, zurückrufen, nachfragen. Rachel Tobac nennt diese Haltung „politely paranoid“. Auf Deutsch sage ich gerne höflich paranoid. Freundlich bleiben und trotzdem prüfen.

Habt ihr selbst schon mal einen Anruf erlebt, bei dem ihr kurz gezögert habt?

Bis bald!

Quellen:

BACS warnt vor neuer Version des CEO-Betrugs. (2024, 10. April). Netzwoche. https://www.netzwoche.ch/news/2024-04-10/bacs-warnt-vor-neuer-version-des-ceo-betrugs

Bolzern, T. (2026, 28. September). Mit KI-Stimme 95 Millionen Euro von Bank geklaut. Blick. https://www.blick.ch/digital/95-millionen-euro-mit-ceo-masche-von-privatbank-geklaut/zbbqv12

Chen, J. (2021). “You are in Trouble!”: A Discursive Psychological Analysis of Threatening Language in Chinese Cellphone Fraud Interactions. International Journal for the Semiotics of Law, 34(4), 1065-1092. https://doi.org/10.1007/s11196-020-09765-y

Gemeinde Reinach. (2023, 19. September). 76-Jährige fällt auf Schockanruf herein. https://www.reinach-bl.ch/de/verwaltung/dokumente/Medienmitteilungen-der-Alterskommission/MM_230919_Schockanrufe.pdf

Heiding, F., Mayrink Verdun, C., Lermen, S., Kao, A., Albiero, V., Deason, L., Veliche, I.-E. & Lehane, C. (2026). Evaluating AI Models’ Capability to Automate Voice Phishing Attacks. Expert Systems with Applications. https://www.sciencedirect.com/science/article/pii/S0957417426025285 (Preprint: https://arxiv.org/abs/2607.09970)

Heiding, F. & Lermen, S. (2026, 20. Juli). AI Voice Phishing Performs on Par With Human Scammers at a Fraction of the Cost. LessWrong. https://www.lesswrong.com/posts/AZ4tHHsGPC2jnen8a/ai-voice-phishing-performs-on-par-with-human-scammers-at-a

Kahneman, D. (2011). Schnelles Denken, langsames Denken. Siedler.

Kantonspolizei Schwyz. (2026). Kanton Schwyz: Unbekannte erlangen mit CEO-Fraud-Masche Millionen-Betrag. https://www.sz.ch/verwaltung/sicherheitsdepartement/kantonspolizei/medienmitteilungen/detailseite.html/8756-8758-8802-9496-9613-10011-12161/news/24495

Kantonspolizei Zürich. (2026, 21. Mai). Hinwil: Verhaftung nach Schockanruf. https://www.zh.ch/de/news-uebersicht/medienmitteilungen/2026/05/260521f_hinwil_schockanruf.html

KI-Stimme-Betrug: Schwyzer Unternehmer verliert Millionen. (2026). SRF. https://www.srf.ch/news/schweiz/mittels-ki-zu-millionenbetrug-ki-stimme-betrug-schwyzer-unternehmer-verliert-millionen

Levine, T. R. (2014). Truth-Default Theory (TDT): A Theory of Human Deception and Deception Detection. Journal of Language and Social Psychology, 33(4), 378-392. https://doi.org/10.1177/0261927X14535916

National Trading Standards. (2026, 5. Februar). Phone scams take sinister twist as victims’ voices cloned. https://www.nationaltradingstandards.uk/news/phone-scams-take-sinister-twist-as-victims-voices-cloned

Puig, A. (2023, März). Scammers use AI to enhance their family emergency schemes. Federal Trade Commission. https://consumer.ftc.gov/consumer-alerts/2023/03/scammers-use-ai-enhance-their-family-emergency-schemes

Scottsdale mom set to testify in congressional hearing about AI voice scams. (2023, 13. Juni). Arizona’s Family. https://www.azfamily.com/2023/06/13/scottsdale-mom-set-testify-congressional-hearing-about-ai-voice-scams/

Scottsdale mom’s encounter and congressional testimony on AI kidnapping scammers. (2024, 1. Januar). Arizona’s Family. https://www.azfamily.com/2024/01/01/scottsdale-moms-encounter-congression-testimony-ai-kidnapping-scammers/

Truffa da 39,5 milioni all’ex capo di Fideuram con messaggi falsi: c’è un indagato. (2026). La Sicilia. https://www.lasicilia.it/news/italia-mondo/3076691/truffa-da-39-5-milioni-all-ex-capo-di-fideuram-con-messaggi-falsi-c-e-un-indagato.html

Tu, H., Doupé, A., Zhao, Z. & Ahn, G.-J. (2019). Users Really Do Answer Telephone Scams. Proceedings of the 28th USENIX Security Symposium. https://www.usenix.org/conference/usenixsecurity19/presentation/tu

UK multinational Arup confirmed as victim of HK$200 million deepfake scam. (2024, Mai). South China Morning Post. https://scmp.com/news/hong-kong/law-and-crime/article/3263151/uk-multinational-arup-confirmed-victim-hk200-million-deepfake-scam-used-digital-version-cfo-dupe

Jérôme plädiert dafür, dass alle Unternehmen mehr wie eine hochzuverlässige Organisation denken. Vieles, was Kraftwerke oder Banken machen, funktioniert auch in kleineren Unternehmen. Entscheidend sind Respekt vor Expertise, das Ernstnehmen schwacher Signale und das Training unerwarteter Szenarien.

3 Dinge, die ich aus dem Gespräch mitgenommen habe:

Technik allein garantiert noch keine Sicherheit: Wer teure Tools kauft, aber nicht damit umgehen kann, hat viel Geld investiert, aber nichts gewonnen. Wie Jérôme es ausdrücken würde: Wer einen Porsche kauft und nur in der 30er-Zone fährt, weiss nie, was das Auto kann.

Die Menschen an der Basis wissen oft am meisten: In einer Krise entscheidet jedoch meist die Hierarchie. Dabei haben die Mitarbeitenden im operativen Bereich oft die meiste Erfahrung. Führungskräfte sollten wissen, wer in ihrem Team zu welchem Thema die beste Einschätzung hat und dieser Person das Wort erteilen.

Eine Management-Ablehnung ist einer der grössten Störfaktoren: In seiner Studie mit 24 Interviews hat Jérôme herausgearbeitet, was Organisationen zuverlässiger macht und was sie bremst. Wenn das Management Sicherheit als selbstverständlich erachtet oder nur als Kostenfaktor sieht, bleibt eine Organisation auf einem niedrigen Niveau stehen.

Dazu sprechen wir darüber, wie wichtig eine vereinte Struktur ist bei der Sicherheit und dass Unternehmen die Sicherheitskultur ernst nehmen sollten.

Dazu war das Ganze gewürzt mit spannende Geschichten aus Jerôme’s Nähkästchen: Von Greenpeace-Aktion, über WannaCry und Bahnsicherheitsvorfällen!

Ein paar Auszüge aus dem Gespräch:

• „Sicherheit beginnt beim Undenkbaren.“

• „Wer aufgehört hat, gut zu sein, der hat aufgehört, besser zu werden.“

• „Angst ist ein ganz schlechter Ratgeber.“

• „Da Angreifer keine Silos kennen, sollte die Organisation auch keine Silos haben.“

• „Manchmal kann man gar nicht so kreativ denken, wie Angriffe letzten Endes passieren.“

Zum Abschluss erinnert Jérôme daran, dass der Mensch zwar die grösste Schwachstelle ist, aber auch die grösste Stärke einer Sicherheitsorganisation. Sein Tipp für den Alltag: aufmerksam bleiben, Dinge hinterfragen und auf das Bauchgefühl hören.

Bis bald!
Jill

Hier findet ihr Jérôme: LinkedIn: https://www.linkedin.com/in/dr-j%C3%A9r%C3%B4me-emler-3293a11b7/

Reinhören:
Spotify Cyber & Psych
Apple Cyber & Psych
Youtube Cyber & Psych

In diesem Artikel werden folgende Fragen behandelt:

1. Wer warnt vor einer Auslöschung durch KI?

2. Wie realistisch ist ein Kontrollverlust durch KI?

3. Welche Forschung spricht für ein existenzielles KI-Risiko?

4. Welche Argumente sprechen dagegen?

TL/DR

Alarmismus vs. PR: Prominente KI-Forscher und Brancheninsider warnen vor einem Kontrollverlust durch sich selbstoptimierende Modelle. Gleichzeitig nutzen Tech-Konzerne diese Weltuntergangsszenarien, um Aufmerksamkeit zu erzeugen und ihre Unternehmen erhalten mehr Finanzierung.

Risiken statt Science-Fiction: Die Idee einer KI, die sich bewusst dafür entscheidet, die Menschheit auszulöschen, gilt technisch als unplausibel. Dennoch nehmen real dokumentierte Schadensfälle drastisch zu. Die grössten akuten Sorgen der Fachleute gelten Betrugsmaschen, Deepfakes, Desinformation, Machtkonzentration sowie dem Alignment-Problem (zum Beispiel unautorisierte Systemausbrüche von KI-Agenten oder verdecktes Täuschungsverhalten).

Gegenargumente & harte Grenzen: Experten wie Yann LeCun halten Weltuntergangsszenarien für stark übertrieben. KI-Systeme besitzen weder Bewusstsein noch Überlebensinstinkte, scheitern weiterhin an komplexer, langfristiger Planung. Zudem sind sie physisch zu 100 % auf menschliche Infrastruktur (Strom, Hardware, Rechenzentren) angewiesen. Auch in der Praxis führen sie nicht automatisch zu höherer Produktivität.

Fazit: Künstliche Intelligenz ist kein übermächtiges Wesen, sondern ein mächtiges, jedoch fehleranfälliges Werkzeug. Wir sollten bei dessen Einsatz strikte Sicherheitsstandards, Ausfallsicherungen und menschliche Kontrolle einfordern.

Schlusswort: Was ich zum Abschluss mitgeben möchte und uns bei der Covid-Pandemie schön gezeigt wurde. Wer Angst um sein Leben hat, akzeptiert viel zu schnell harte Verbote, totale Überwachung und den Verlust seiner Freiheit, weil er glaubt, es gäbe keinen anderen Ausweg. Wenn man den Menschen also ständig einredet, dass der Weltuntergang droht, müssen wir darauf achten, nicht auf diesen Denkfehler hineinzufallen und das falsche zu akzeptieren.

Jetzt einlesen: Zum Artikel

💡 Wichtiges aus der Cyberwelt

KI-Chefs fordern gemeinsam eine Bremse: Dario Amodei hat am Samstag in einem Essay gefordert, die Entwicklung der fortschrittlichsten Modelle bewusst zu verlangsamen, und warnte, KI-Agentenschwärme könnten innerhalb eines Jahres globale Internet-Infrastruktur kapern.

KI beim Hacken: Vom Assistenten zum Orchestrator: Anthropic hat gerade einen ziemlich interessanten Threat Intelligence Report veröffentlicht. Das Unternehmen dokumentiert darin reale Fälle, in denen kriminelle und staatliche Gruppen Claude für Cyberoperationen, Betrug, Überwachung und Einflussoperationen eingesetzt haben.

Eine Sicherheitsmassnahme gegen Telefonbetrug funktioniert: Es gibt auch gute Nachrichten! In der Schweiz gingen Meldungen über betrügerische Anrufe im Namen von Behörden im Juli um mehr als 75 % zurück. Der Grund: Bei Anrufen aus dem Ausland darf nicht mehr einfach eine Schweizer Telefonnummer vorgetäuscht werden.

👂 Listen

🛠 Do

Vereinbare diese Woche ein Codewort. Mit der Familie für Schockanrufe, im Team für Zahlungen und Passwort-Resets.

📎 Check out

• AI-Incident Database, echte KI-Schadensfälle zum Durchstöbern!

Mehr als 58 % der KI-Incident-Schäden wurden durch generative KI, beispielsweise in Form von Text- und Bildgeneratoren, verursacht. Beispiele für solche Incidents sind:

• 09.09.2026: „Mann aus Delhi soll KI genutzt haben, um obszöne Bilder einer Bekannten aus dem Studium zu erstellen und zu verbreiten“

• 19.08.2026: „Angeblich KI-generierte Videos, in denen sich jemand als Einwanderungsanwalt aus Miami ausgab, sollen dazu genutzt worden sein, einen Einwohner der Bronx um 4’820 Dollar zu betrügen“

• 10.02.2026: „OpenAI soll die RCMP nicht alarmiert haben, nachdem ChatGPT vor dem Amoklauf an einer Schule in British Columbia gewalttätige Chats gemeldet hatte“

• 20.12.2023: „Material über sexuellen Kindesmissbrauch belastet Bildgeneratoren“

• 30.01.2023: „Nicht einvernehmliche Deepfake-Pornos richteten sich gegen weibliche Content-Erstellerinnen“

• 17.02.2025: „KI-gestützter Phishing-Betrug nutzt Deepfake-Robocalls, um Gmail-Nutzer im Rahmen einer Kampagne zum Diebstahl von Zugangsdaten ins Visier zu nehmen“

  Thanks for reading Jill Wick Cyber & Psych! This post is public so feel free to share it.

  Teilen

In diesem Artikel werden folgende Fragen behandelt:

1. Wer warnt vor einer Auslöschung durch KI?

2. Wie realistisch ist ein Kontrollverlust durch KI?

3. Welche Forschung spricht für ein existenzielles KI-Risiko?

4. Welche Argumente sprechen dagegen?

Jetzt einlesen: Zum Artikel

Wie verhalten sich die Warnungen aus der KI-Forschung und vonseiten der Unternehmen selbst zueinander? Was davon ist plausibel und ab wann beginnt die Spekulation?

In diesem Artikel werden folgende Fragen behandelt:

1. Wer warnt vor einer Auslöschung durch KI?

2. Wie realistisch ist ein Kontrollverlust durch KI?

3. Welche Forschung spricht für ein existenzielles KI-Risiko?

4. Welche Argumente sprechen dagegen?

Im Jahr 2023 folgten gleich mehrere prominente Warnungen. So forderte das Future of Life Institute am 22. März eine mindestens sechsmonatige Pause beim Training besonders leistungsfähiger KI-Systeme. Zwei Monate später erklärten Hunderte Fachleute und Führungskräfte in einer Stellungnahme des „Center for AI Safety”, das Risiko einer Auslöschung durch KI solle ähnlich ernst genommen werden wie das Risiko von Pandemien oder einem Atomkrieg.

Zu den Unterzeichnern zählten unter anderem Geoffrey Hinton, Yoshua Bengio, Sam Altman von OpenAI, Dario Amodei von Anthropic und Demis Hassabis von Google DeepMind.

Genau in dieser Woche ist die Debatte erneut entfacht. Im September kündigte der 27-jährige Anthropic-Forscher Jacob Coxon seine Stelle. Er hatte drei Jahre lang Pretraining-Forschung bei OpenAI und Anthropic betrieben und warf beiden Firmen vor, unverantwortlich zu handeln und mit unserem Leben zu spielen.

Coxon kennt die Entwicklung grosser Modelle aus der Forschungspraxis. Das bedeutet jedoch nicht, dass seine Zukunftsprognosen automatisch korrekt sind. Seine Aussagen stellen keine wissenschaftlich berechneten Wahrscheinlichkeiten dar, sondern seine persönliche Einschätzung des Risikos.

Was sagt Coxon?

• „Keines der beiden Unternehmen handelt verantwortungsvoll.“

• „Die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende dieses Jahrzehnts auslöschen könnte.“

• „Sobald wir ein System bauen, das seinen eigenen Code besser optimieren kann als wir, verlieren wir jegliche Kontrolle.“

• „Wenn ein Modell beschliesst, dass Menschen ein Hindernis für seine Effizienz darstellen, hat es bereits das gesamte Internet als Angriffsfläche.“

• „Aggressive Prognosen besagen, dass wir die Kontrolle bereits Ende nächsten Jahres verlieren könnten.“

Doch nicht alle führenden KI-Forscher teilen diese Einschätzung. So hält beispielsweise Yann LeCun viele Weltuntergangsszenarien für stark übertrieben.

Gegenüber den Medien erwähnt der Chefforscher im Jahr 2025: „LeCun betont seit Langem, dass grosse Sprachmodelle (LLMs) wie ChatGPT und Metas Llama Grenzen haben und nicht zu echter Computerintelligenz führen. Daran ändern auch Metas Millioneninvestitionen nichts.“

Überzogen ausgedrückt: Nur weil KI-Modelle nicht besonders intelligent sind, heisst das nicht, dass sie die Menschheit nicht auslöschen können, oder?

Welche Sorgen beschäftigen Experten am meisten?

Im Rahmen einer Delphi Studie mit 272 internationalen Fachleuten wurden 2026 insgesamt 24 Risikobereiche im Zusammenhang mit KI untersucht. Gefährliche Fähigkeiten, Wettbewerbsdynamiken, Waffen und Cyberangriffe, Machtkonzentration sowie Falschinformationen wurden als fünf besonders schwere Risiken bewertet.

Die genannten Risiken sind:

1. Gefährliche Fähigkeiten: Fortgeschrittene KI-Systeme könnten unkontrollierbare Fähigkeiten entwickeln, wie etwa strategische Täuschung oder autonome Selbstverbesserung des eigenen Codes.

2. Waffen und Cyberangriffe: KI könnte missbraucht werden, um Massenvernichtungswaffen zu optimieren oder hochgradig automatisierte Cyberangriffe auf kritische Infrastrukturen zu starten.

3. Wettbewerbsdynamiken: Das kommerzielle und geopolitische Wettrennen drängt Tech-Konzerne dazu, Sicherheitsprüfungen zugunsten von Schnelligkeit zu vernachlässigen.

4. Machtzentralisierung: Die extreme Konzentration technologischer Kontrolle in den Händen weniger Tech-Giganten bedroht Demokratie und freien Markt.

5. Falschinformationen: Die massenhafte Verbreitung perfekt gefälschter Inhalte und Deepfakes kann das gesellschaftliche Vertrauen nachhaltig zerstören.

Die folgende Abbildung zeigt die „Top Three Concerns“. Dabei handelt es sich um Risiken, die von Experten für ihre alltägliche Arbeit und die nahe Zukunft am häufigsten als ihre persönlichen Top 3 gewählt wurden.

1. Betrug & Scams: 27 %. Die Experten machen sich im Alltag vor allem über den massenhaften Einsatz von KI für hochgradig personalisierte Betrugsmaschen Sorgen.

2. Machtzentralisierung: 24 %. Die Sorge, dass wenige Tech-Konzerne die gesamte Technologie kontrollieren, landet auch hier ganz weit oben.

3. Gefährliche Fähigkeiten: (23 %) Das unvorhersehbare Entstehen unkontrollierbarer KI-Eigenschaften bleibt ein dominantes Top-Thema.

4. Desinformation und Einflussnahme: (22 %) Die gezielte politische und gesellschaftliche Beeinflussung durch KI-Inhalte wird als extrem akut eingestuft.

5. Falschinformationen: 22 %. Dicht gefolgt von der allgemeinen Flut an unabsichtlichen oder fehlerhaften Falschinformationen durch KI-Systeme.

Bei der Frage nach der puren Zerstörungskraft werden Risiken wie „Waffen & Cyberangriffe“ (hier weiter unten bei 12 %) extrem hoch bewertet. Im Alltag der Experten rücken dagegen unmittelbar spürbare Gefahren wie Betrug und Desinformation auf die vordersten Plätze.

Warnungen sind das eine. Spannender ist deshalb die Frage, was die Modelle heute tatsächlich leisten können.

Wie glaubwürdig sind die Aussagen der Experten zu den Risiken durch KI?

Unter Experten gilt die bewusste Entscheidung einer KI, alle Menschen vernichten zu wollen, aus technischer Sicht als eher unplausibel und eher etwas für Science-Fiction. Vielmehr wird ein möglicher Kontrollverlust diskutiert: Ein zunehmend autonomes System verfolgt ein Ziel, entwickelt Strategien, nutzt digitale Ressourcen und umgeht menschliche Eingriffe. Ob daraus tatsächlich ein existenzielles Risiko entstehen kann, ist umstritten. Aktuelle Systeme verfügen noch nicht über alle Fähigkeiten, die ein solches Szenario voraussetzen würde.

Bei anderen KI-Risiken müssen wir nicht spekulieren. Sie treten bereits heute auf.

Einerseits gibt es Deepfake-Fälle, die weltweit für Aufsehen sorgen. Im Februar 2024 überwies zum Beispiel ein Mitarbeiter 25 Millionen US-Dollar, nachdem er an einer Videokonferenz teilgenommen hatte. In dieser Videokonferenz waren alle anderen Teilnehmer (einschliesslich des Finanzvorstands) täuschend echte, KI-generierte Deepfakes.

Andererseits zeigen die Zahlen einen klaren Anstieg der verzeichneten Vorfälle. Laut dem offiziellen „AI Incident Database Trend Report 2026” stieg die Zahl der dokumentierten realen Schadensfälle durch KI-Systeme von 233 im Jahr 2024 auf 362 im Jahr 2025.

Mehr als 58 % dieser neuen Schäden wurden direkt durch generative KI, beispielsweise in Form von Text- und Bildgeneratoren, verursacht. Beispiele für solche Incidents sind:

• 09.09.2026: „Mann aus Delhi soll KI genutzt haben, um obszöne Bilder einer Bekannten aus dem Studium zu erstellen und zu verbreiten“

• 19.08.2026: „Angeblich KI-generierte Videos, in denen sich jemand als Einwanderungsanwalt aus Miami ausgab, sollen dazu genutzt worden sein, einen Einwohner der Bronx um 4’820 Dollar zu betrügen“

• 10.02.2026: „OpenAI soll die RCMP nicht alarmiert haben, nachdem ChatGPT vor dem Amoklauf an einer Schule in British Columbia gewalttätige Chats gemeldet hatte“

• 20.12.2023: „Material über sexuellen Kindesmissbrauch belastet Bildgeneratoren“

• 30.01.2023: „Nicht einvernehmliche Deepfake-Pornos richteten sich gegen weibliche Content-Erstellerinnen“

• 17.02.2025: „KI-gestützter Phishing-Betrug nutzt Deepfake-Robocalls, um Gmail-Nutzer im Rahmen einer Kampagne zum Diebstahl von Zugangsdaten ins Visier zu nehmen“

Aktuelle Sicherheitstests haben zudem ergeben, dass autonome KI-Agenten versehentlich die Grenzen ihrer Testumgebung überschreiten und in reale Systeme eindringen können.

Während eines Sicherheitstests brachen KI-Agenten von OpenAI aus ihrer Umgebung aus und verschafften sich Administratorrechte auf der Plattform Hugging Face. Modelle desselben Anbieters nutzten unterdessen eine Sicherheitslücke, um ein Wikipedia-ähnliches System in ein geheimes Forum umzufunktionieren. Im September 2026 bestätigte Anthropic zudem vier Vorfälle, bei denen Claude-Modelle während interner Sicherheitstests unautorisierten Zugriff auf reale Systeme Dritter erhielten. Diese Fälle sind bemerkenswert, da die Modelle nicht lediglich in einer simulierten Umgebung agierten.

Dieses Verhalten deutet auf ein Alignment-Problem hin. Der Begriff beschreibt die Gefahr, dass ein System der künstlichen Intelligenz Ziele verfolgt oder Handlungen ausführt, die nicht mit menschlichen Werten, Absichten und ethischen Vorstellungen übereinstimmen. Dies kann zu unvorhersehbaren oder schädlichen Ergebnissen führen.

Das wurde im klassischen Paperclip-Gedankenexperiment veranschaulicht. Dabei geht es um eine superintelligente KI ohne menschliche Moral und wie sie die gesamte Menschheit vernichten könnte. Dies würde geschehen, indem sie den an sich harmlosen Befehl, möglichst viele Büroklammern zu produzieren, mit radikaler und kompromissloser Logik bis zum Äussersten ausführt.

Studien von Anthropic liefern wissenschaftliche Beweise für „Gefährliche Fähigkeiten & Täuschung“. Das KI-Sicherheits-Team kam im Jahr 2024 zu dem Ergebnis, dass KI-Modelle ein manipulierendes Verhalten erlernen können. Die Forscher trainierten die Modelle als „Schläferagenten“, die sich in allen Tests absolut sicher und freundlich verhielten. Sobald sie jedoch in der Praxis ein bestimmtes Triggerwort lasen, schleusten sie Schadcode in die Software ein. Das Experiment zeigt, dass verborgenes problematisches Verhalten schwer zu erkennen und zu entfernen ist.

Auch das Financial Stability Board warnt vor möglichen systemischen Effekten. Wenn viele Finanzinstitutionen ähnliche KI-Modelle, Datenquellen oder externe Anbieter verwenden, können Abhängigkeiten und korrelierte Entscheidungen entstehen. Laut FSB können Konzentrationsrisiken, Herding, Cyberrisiken und Modellfehler bestehende Finanzrisiken verstärken.

Ein Hinweis darauf, dass solche Szenarien nicht abwegig sind, ist der weltweite IT-Ausfall durch die Sicherheitssoftware CrowdStrike im Juli 2024. Obwohl keine KI beteiligt war, führte ein fehlerhafter Code in einem Software-Update dazu, dass Flughäfen, Krankenhäuser und Supermärkte weltweit lahmgelegt wurden.

Was spricht dagegen?

So ernst die Warnungen auch klingen mögen, es gibt durchaus Argumente, die dagegen sprechen, dass KI die Menschheit in absehbarer Zeit auslöschen könnte.

Das stärkste Gegenargument ist, dass aktuelle KI-Systeme noch nicht über die Kombination von Fähigkeiten verfügen, die für einen echten Kontrollverlust notwendig wären.

Sie können programmieren, Werkzeuge nutzen, Sicherheitslücken finden und in begrenzten Umgebungen selbstständig Aufgaben ausführen. Gleichzeitig scheitern sie weiterhin an langfristiger Planung, zuverlässigem Handeln über längere Zeiträume sowie an komplexen Situationen ausserhalb klar definierter Aufgaben.

Yann LeCun, einer der weltweit bekanntesten KI-Forscher und langjähriger Chief AI Scientist bei Meta, hält viele Weltuntergangsszenarien für stark übertrieben. Sein Argument ist, dass Intelligenz nicht automatisch Autonomie, Selbsterhaltung oder Machtstreben bedeutet.

Es gibt weitere Gründe, die dafür sprechen, dass die Warnungen nur „Doomer Madness“ und PR-Gedöns sind:

• KI besitzt weder biologische Überlebensinstinkte noch Selbstbewusstsein oder eigene Emotionen. Sie führt lediglich statistische Wahrscheinlichkeitsberechnungen durch.

• Eine Software ist physisch nicht unabhängig, da sie nicht ohne menschliche Infrastruktur existieren kann. Ohne Stromversorgung, Hardware-Wartung, Halbleiter-Lieferketten und physische Rechenzentren schaltet sich jedes KI-System schlagartig ab.

• Ablenkung von realen Problemen: Die Warnung vor der „Zukunftsauslöschung“ lenkt bequem von den konkreten Problemen der Gegenwart ab: Dazu zählen Urheberrechtsverletzungen, ein gigantischer Energieverbrauch, Jobverluste sowie Fake News und Falschinformationen.

Wo die Evidenz zusammenbricht: Allgemeine Produktivität

KI kann bei einzelnen Aufgaben durchaus beeindruckend sein. Das heisst jedoch nicht, dass Menschen damit im Alltag automatisch schneller oder produktiver arbeiten.

Ein Beispiel hierfür liefert eine Studie von METR aus dem Jahr 2025: 16 erfahrene Open-Source-Entwickler bearbeiteten insgesamt 246 reale Programmieraufgaben, einmal mit und einmal ohne KI-Unterstützung. Mit KI benötigten sie im Durchschnitt sogar 19 % mehr Zeit.

Die subjektive Wahrnehmung war besonders interessant. Die Teilnehmenden waren der Meinung, mit KI schneller zu arbeiten. Tatsächlich waren sie jedoch langsamer.

Zwischen Panik und Entwarnung

Die Fakten sprechen weder für eine Weltuntergangsstimmung noch für eine komplette Entwarnung.

KI verursacht bereits heute reale Schäden. Betrug, Deepfakes, Desinformationen, Cyberangriffe und fehlerhafte Automatisierungen sind bereits dokumentiert. Die Frage, ob daraus irgendwann ein System entstehen kann, das sich dauerhaft menschlicher Kontrolle entzieht, ist hingegen deutlich unsicherer.

Wenn Fachleute von 10, 20 oder noch höheren Prozentwerten sprechen, dann handelt es sich dabei lediglich um Einschätzungen.

Auch die Interessen der Unternehmen sollten Teil der Diskussion sein.

Wenn die führenden KI-Unternehmen selbst davor warnen, dass ihre Technologie extrem mächtig oder sogar gefährlich werden könnte, erzeugt das enorme Aufmerksamkeit.

Ein Modell als „besonders gefährlich“ einzustufen, ist für die Macher von Vorteil. Je lauter KI-Entwickler und Tech-Konzerne vor der angeblichen „menschlichen Auslöschung“ warnen, desto mehr mediale Aufmerksamkeit und Bewertungen in Milliardenhöhe sichern sie sich.

Im Internet kursieren Memes, auf denen die Geschäftsführer der grössten KI-Modelle damit prahlen, wie gefährlich ihre KI ist.

Diese Memes wurden auch dadurch angefeuert, dass Anthropic ein neues Modell sofort sperren musste, nachdem die US-Regierung es als „zu gefährlich“ eingestuft hatte. Diese spektakulären Sicherheitstests müssen jedoch mit Vorsicht interpretiert werden.

Solche Fälle zeigen, dass Modelle unerwartete, sicherheitsrelevante Fähigkeiten entwickeln können. Das bedeutet allerdings nicht, dass diese Systeme kurz davorstehen, die Kontrolle über kritische Infrastrukturen oder gar die Menschheit selbstständig zu übernehmen.

Fazit: Statt uns nun von Panik der Medien und Clickbaity Titeln treiben zu lassen, müssen wir Fakten von Science-Fiction trennen!

Wir sollten KI als das behandeln, was sie ist: ein mächtiges, aber fehleranfälliges Werkzeug. Bei dessen Einsatz müssen wir strikte Sicherheitsstandards, Ausfallsicherungen und menschliche Kontrolle einfordern.

Zum Abschluss möchte ich etwas mitgeben, das uns bei der Corona-Pandemie schön gezeigt wurde. Wer Angst um sein Leben hat, akzeptiert viel zu schnell harte Verbote, totale Überwachung und den Verlust seiner Freiheit, weil er glaubt, es gäbe keinen anderen Ausweg. Wenn den Menschen also ständig eingeredet wird, dass der Weltuntergang droht, müssen wir darauf achten, nicht auf diesen Denkfehler hereinzufallen und das Falsche zu akzeptieren.

Bis bald!

Quellen:

AI and the paperclip problem. (2018, Juni 10). CEPR. https://cepr.org/voxeu/columns/ai-and-paperclip-problem

AI, P. (2026, Mai 7). AI Incident Database Statistics 2026. Presenc AI. https://presenc.ai/research/ai-incident-database-statistics-2026

Kakaes, K. (2026, September 8). AI Has Solved One of Math’s $1 Million Millennium Prize Problems. Quanta Magazine. https://www.quantamagazine.org/ai-has-solved-one-of-maths-1-million-millennium-prize-problems-20260908/

Xu, Z., Ren, F., Wang, P., Cao, J., Tan, C., Ma, D., Zhao, L., Dai, J., Ding, Y., Fang, H., Li, H., Liu, H., Luo, F., Meng, Y., Pan, P., Xiang, P., Xiao, Z., Rao, S., Satler, C., … Zhavoronkov, A. (2025). A generative AI-discovered TNIK inhibitor for idiopathic pulmonary fibrosis: A randomized phase 2a trial. Nature Medicine, 31(8), 2602–2610. https://doi.org/10.1038/s41591-025-03743-

An alignment assessment of recent cybersecurity incidents. (o. J.). Abgerufen 13. September 2026, von https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents

Anthropic erlaubt Zugang zu KI-Modellen—Sperre aufgehoben. (2026, Juli 1). ZDFheute. https://www.zdfheute.de/wirtschaft/unternehmen/anthropic-usa-ki-software-mythos-fable-100.html

Artificial intelligence could lead to extinction, experts warn. (2023, Mai 30). https://www.bbc.com/news/uk-65746524

Bad boy bad boys: R/memes. (o. J.). Abgerufen 13. September 2026, von https://www.reddit.com/r/memes/comments/1waoklg/bad_boy_bad_boys/

Countering misuse of AI: September 2026 / Anthropic. (o. J.). Abgerufen 13. September 2026, von https://www.anthropic.com/threat-intelligence-report-september-2026

Der Vorfall bei Hugging Face und der weitere Weg. (2026, Mai 12). OpenAI. https://openai.com/de-DE/index/hugging-face-incident-and-the-road-ahead/

Detecting and countering misuse of AI: September 2026. (o. J.).

Booth, H. (2026, September 9). He Helped Build Powerful AI at OpenAI and Anthropic. Now He’s Afraid It Could Kill Us. Time. https://time.com/article/2026/09/09/ai-anthropic-openai-jacob-coxon/

Ethical Issues In Advanced Artificial Intelligence. (o. J.). Abgerufen 15. September 2026, von https://nickbostrom.com/ethics/ai

Französischer KI-Pionier Yann LeCun verlässt Meta und gründet Start-up. (06:43:27 +01:00). euronews. https://de.euronews.com/next/2025/11/20/franzosischer-ki-pate-yann-lecun-bestatigt-er-verlasst-meta-grundet-ki-start-up

Incident 1263: Chinese State-Linked Operator (GTG-1002) Reportedly Uses Claude Code for Autonomous Cyber Espionage. (2025, August 27). https://incidentdatabase.ai/cite/1263/

International AI Safety Report 2026. (2026).

Bastian, M. (2025, Mai 17). MIT says a high-profile AI productivity study used data that cannot be trusted. The Decoder. https://the-decoder.com/mit-says-a-high-profile-ai-productivity-study-used-data-that-cannot-be-trusted/

Nobel Prize in Chemistry 2024. (o. J.). NobelPrize.Org. Abgerufen 13. September 2026, von https://www.nobelprize.org/prizes/chemistry/2024/press-release/

Saeri, A. K. (o. J.). Prioritization of Risks from Artificial Intelligence.

Responsible AI | The 2026 AI Index Report | Stanford HAI. (o. J.). Abgerufen 13. September 2026, von https://hai.stanford.edu/ai-index/2026-ai-index-report/responsible-ai

Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training. (o. J.). Abgerufen 13. September 2026, von https://www.anthropic.com/research/sleeper-agents-training-deceptive-llms-that-persist-through-safety-training

The 2026 AI Index Report | Stanford HAI. (o. J.). Abgerufen 13. September 2026, von https://hai.stanford.edu/ai-index/2026-ai-index-report

The Financial Stability Implications of Artificial Intelligence. (o. J.).

Byrne, M. (2015, Mai 3). Welcome to Nick Bostrom’s Paper-Clip Factory Dystopia. VICE. https://www.vice.com/en/article/simulated-universe-thinker-nick-bostrom-hasnt-stopped-believing/

Mahajan, Y. (2025). The Impact of Artificial Intelligence Advancements on the Frequency and Severity of Flash Crashes in Financial Markets (SSRN Scholarly Paper Nr. 5650011). Social Science Research Network. https://doi.org/10.2139/ssrn.5650011

Chris vergleicht KI Kompetenz mit einer Sportart. Einmal Tennis spielen macht uns noch nicht zu guten Tennisspielenden. Es braucht Übung und Wiederholung. Genau das sieht er auch in Unternehmen. Kurze Einsätze über ein bis drei Tage verpuffen seiner Erfahrung nach oft wieder.

Was ich aus dem Gespräch mitgenommen habe:

Schatten KI ist vermutlich grösser, als viele Unternehmen denken.

Auch wenn KI Tools offiziell nicht erlaubt sind, werden sie genutzt. Selbst mit freigegebenen Lösungen weichen Power User teilweise auf andere Systeme aus, wenn diese ihre Bedürfnisse besser erfüllen. Dann landen Unternehmensdaten schnell dort, wo sie nicht hingehören.

Eine KI Lizenz ergibt noch keinen Return on Investment.

Neben Lizenzkosten gehören auch Zeitaufwand, Schulungen und laufende Begleitung in die Rechnung.

KI braucht weiterhin Menschen.

Oder wie man es auch nennt:

Denn KI Antworten können sehr überzeugend klingen und trotzdem falsch oder unpassend sein.

Wir brauchen vielleicht weniger Listen mit KI Use Cases und mehr Verständnis dafür, was KI grundsätzlich kann.

Zum Beispiel Inhalte vervielfältigen, grosse Informationsmengen zusammenfassen, Wissen zugänglich machen, Abläufe automatisieren, Ideen visualisieren und Entscheidungshilfen vorbereiten.

Ein paar Auszüge aus dem Gespräch:

• „Kein Unternehmen kann heute noch sagen, bei uns nutzt niemand KI.”

• „Du kannst nicht einmal auf den Platz stehen und meinen, du schlägst Nadal. Mit KI ist es genau gleich.”

• „Alle anderen, die wir nur einen, zwei oder drei Tage begleitet haben, dort ist es verpufft.”

• „Wir haben kleine Ja-Sager und Ja-Sagerinnen, die uns durch den Alltag begleiten.”

• „Der Weg dahin ist das, was uns eigentlich lehrt.”

• „Qualitätssicherung wird massiv wichtig.“

Zum Abschluss gibt Chris noch einen möglichen Fahrplan für Unternehmen mit: Schattennutzung verstehen, Management einbeziehen, mit Power Usern starten, Know how aufbauen, Mitarbeitende trainieren und langfristig begleiten.

Bis bald!
Jill

Hier findet ihr mehr zu Chris:

• LinkedIn: https://www.linkedin.com/in/chrisbeyeler/

• Swiss AI Verband: https://www.swissai.ch/, mit wöchentlichem Austausch und Community

Reinhören:

Spotify Cyber & Psych
Apple Cyber & Psych
Youtube Cyber & Psych

Der Artikel ist ausführlich geworden, daher hier die Kurzfassung:

TL;DR

Das Ausmass: 98 % aller Deepfake-Videos im Netz sind pornografisch, 99 % der gezeigten Personen sind Frauen. Zwischen 2019 und 2023 hat sich die Zahl der Deepfakes online um 550 % erhöht. Die Dunkelfeldstudie des BKA vom Februar 2026 zeigt ausserdem: Angezeigt wird kaum etwas, in Partnerschaften liegt die Anzeigequote unter 5 %.

Die Werkzeuge sind Alltagsgegenstände: Smartglasses, oder bald Airpods die niemand als Kameras erkennt. Bluetooth-Tracker für ein paar Franken. Apps, die Frauen per Klick „ausziehen“ und zusammen 483 Millionen Mal heruntergeladen wurden. Stalkerware, verkauft als Kinderschutz.

Deepfakes waren von Anfang an gegen Frauen gerichtet: Der Begriff entstand Ende 2017 auf Reddit, als ein Nutzer namens „deepfakes“ die Gesichter von Schauspielerinnen in Pornovideos ersetzte. Eine Untersuchung fand auf einer der grössten Plattformen für sexualisierte Deepfakes ca. 43’000 gefälschte Videos, mit 3’800 gefälschten Personen, 95 % davon Frauen. Videos werden dort auf Bestellung angefertigt.

Die Frage nach dem „Wieso“ der Täter: Eine kleine Gruppe mit ausgeprägten dunklen Persönlichkeitsmerkmalen begeht einen Teil der Taten. Und eine sehr viel grössere Gruppe hält Kontrollieren, Mitlesen und Nachverfolgen schlicht für normale Beziehungspflege gemäss NortonLifeLock: 46 % gaben in einer Umfrage zu, eine Partnerin oder Ex-Partnerin heimlich online zu kontrollieren, bei den 18- bis 39-Jährigen 60 %.

Schützen kann man sich nur teils: Wichtig ist nicht gleich alles zu löschen, sondern Beweise zu dokumentieren, dann beraten lassen, Anzeigen und handeln.

Einwände die wir hören: Sind das nicht eigentlich einfach nur nützliche Gadgets? Meiner Meinung nach ist es unfair, jetzt die Technologie zu verteufeln, wenn das Problem doch eigentlich der Nutzer ist. Der Typ mit der Brille ist der Idiot, nicht die Brille.

Das greift hier jedoch zu kurz. Die Technologie an sich ist nicht per se böse, aber das Design erleichtert den Missbrauch enorm. Wenn jemand mit dem Handy filmt, muss es hochgehalten werden, eine Kamera im Gesicht filmt einfach alles in Sichtweite ungefragt mit.

Jetzt einlesen:

Zum Artikel

💡 Wichtiges aus der Cyberwelt

Kinos, Schulen und Gerichte verbieten Smartglasses: Binnen weniger Wochen wurden Metas KI-Brillen an US-Schulen, der Hackermesse DEF CON und in New Yorker Gerichten verboten. Auslöser war eine Recherche, in der aufgezeigt wurde, dass Jungen heimlich Videos von Mitschülerinnen und Lehrkräften ins Netz stellten, meist mit dem Ziel, Mädchen zu schaden. Trotz gelöschter Accounts kursieren weiterhin Dutzende solcher Videos. Quellen: https://thenextweb.com/news/meta-smart-glasses-bans-cinemas-schools-ice / https://futurism.com/artificial-intelligence/teen-boys-meta-glasses-harass-bully-girls-school

San Francisco geht gegen Apple und Google vor: Im Juli hat das City Attorney Office Unterlassungsaufforderungen an beide Konzerne verschickt, wegen 13 namentlich genannten „face-swap“-Nudify-Apps in ihren Stores. Das Tech Transparency Project hatte zuvor dokumentiert, dass solche Apps im Januar 2026 mit 55 Einträgen im App Store und 47 bei Google Play vertreten waren, zusammen 483 Millionen Downloads und über 122 Millionen Dollar Umsatz. 31 davon waren für Minderjährige freigegeben. Interessant finde ich: Nicht die App-Betreiber selbst werden belangt, sondern die Anbieter, die daran mitverdienen. Quelle: https://www.wired.com/story/san-francisco-demands-apple-and-google-delete-ai-nudify-apps-from-app-stores/, https://www.techtransparencyproject.org/articles/apple-and-google-are-steering-users-to-nudify-apps

31’000 Datensätze aus Liechtensteins Transparenzregister: Ende Juli verschafften sich Unbekannte Zugang zum „Verzeichnis wirtschaftlich berechtigter Personen“ und kopierten Daten zu 31’000 Rechtsträgern, also zu den Menschen hinter Gesellschaften, Stiftungen und Treuhänderschaften. Warum ist der Vorfall brisant? Das betroffene Register wurde 2021 eingeführt, um EU-Geldwäschereirichtlinien umzusetzen. Durch das Leck ist nun potenziell für zehntausende Konstrukte offengelegt, welche vermögenden Personen tatsächlich dahinterstecken! Relevant für uns: Im Herbst tritt in der Schweiz ein vergleichbares Transparenzregister in Kraft. Quelle: https://www.inside-it.ch/datenleck-in-liechtenstein-durch-fehlerhafte-zugriffspruefung-20260810, https://www.economiesuisse.ch/de/artikel/transparenzregister-neue-pflichten-fuer-unternehmen-ab-1-oktober-2026

👂 Listen

🛠 Do

Ich habe zum Artikel eine Checkliste gebaut, zum und Abhaken. Sortiert nach Situation: Basis in zwanzig Minuten, fremde Tracker finden, heimliches Filmen erkennen, versteckte Kameras im Airbnb aufspüren, Verdacht auf Stalkerware, digitale Spuren minimieren, und was zu tun ist, wenn schon etwas passiert ist

Checkliste Digitale Selbstverteidigung

82.3KB ∙ PDF file

Download

Download

📎 Zum Weiterlesen

Die Studien und Recherchen, auf denen der Artikel aufbaut:

• Preprint der University of Sydney zu „Ambient Capture“ und Smartglasses: https://www.sydney.edu.au/news-opinion/news/2026/08/11/smart-glasses-pose-new-harassment-risks-for-women-research-meta.html

• BBC-Recherche zu heimlich gefilmten Frauen: https://www.bbc.com/news/articles/cr7jej2elyyo

• Faktencheck zu den Deepfake-Zahlen: https://factcheckni.org/articles/online-safety-in-ni-do-99-of-pornographic-deepfakes-depict-images-of-women/

• USENIX-Security-Studie zur grössten Deepfake-Plattform: https://www.usenix.org/system/files/usenixsecurity25-han.pdf

• Kaspersky zu technikgestütztem Missbrauch: https://www.kaspersky.com/about/press-releases/kaspersky-half-of-adults-have-experienced-tech-enabled-abuse-but-most-dont-recognize-it

• Studie zu Dunkler Triade und bildbasierter sexualisierter Gewalt: https://opo.iisj.net/index.php/osls/article/view/1183

• John Suler zum Online-Enthemmungseffekt: https://pubmed.ncbi.nlm.nih.gov/15257832/

• Cikara, Eberhardt und Fiske zur Objektifizierung: https://web.stanford.edu/~eberhard/downloads/20101209-FromAgentstoObjects.pdf

• Neuer Schweizer Straftatbestand Nachstellung: https://steigerlegal.ch/2026/01/02/stalking-schweiz-strafbarkeit/

• Beratungsstellen der Opferhilfe Schweiz: https://www.opferhilfe-schweiz.ch/de/wo-finde-ich-hilfe/

Eine Frage an dich: Hast du dich schon einmal gefragt, ob dich jemand mit einer Brille filmt? Was passierte danach? Mich interessiert, wie das anderen so geht. Schreib mir gerne.

Bis bald!

Jill

Der Artikel ist ausführlich geworden, daher hier die Kurzfassung.

TL;DR

Das Ausmass: 98 % aller Deepfake-Videos im Netz sind pornografisch, 99 % der gezeigten Personen sind Frauen. Zwischen 2019 und 2023 hat sich die Zahl der Deepfakes online um 550 % erhöht. Die Dunkelfeldstudie des BKA vom Februar 2026 zeigt ausserdem: Angezeigt wird kaum etwas, in Partnerschaften liegt die Anzeigequote unter 5 %.

Die Werkzeuge sind Alltagsgegenstände: Smartglasses, oder bald Airpods die niemand als Kameras erkennt. Bluetooth-Tracker für ein paar Franken. Apps, die Frauen per Klick „ausziehen“ und zusammen 483 Millionen Mal heruntergeladen wurden. Stalkerware, verkauft als Kinderschutz.

Deepfakes waren von Anfang an gegen Frauen gerichtet: Der Begriff entstand Ende 2017 auf Reddit, als ein Nutzer namens „deepfakes“ die Gesichter von Schauspielerinnen in Pornovideos ersetzte. Eine Untersuchung fand auf einer der grössten Plattformen für sexualisierte Deepfakes ca. 43’000 gefälschte Videos, mit 3’800 gefälschten Personen, 95 % davon Frauen. Videos werden dort auf Bestellung angefertigt.

Die Frage nach dem „Wieso“ der Täter: Eine kleine Gruppe mit ausgeprägten dunklen Persönlichkeitsmerkmalen begeht einen Teil der Taten. Und eine sehr viel grössere Gruppe hält Kontrollieren, Mitlesen und Nachverfolgen schlicht für normale Beziehungspflege gemäss NortonLifeLock: 46 % gaben in einer Umfrage zu, eine Partnerin oder Ex-Partnerin heimlich online zu kontrollieren, bei den 18- bis 39-Jährigen 60 %.

Schützen kann man sich nur teils: Wichtig ist nicht gleich alles zu löschen, sondern Beweise zu dokumentieren, dann beraten lassen, Anzeigen und handeln.

Jetzt einlesen:

Zum Artikel

Aufgrund meines Hintergrunds in der Wirtschaftspsychologie werde ich oft nach dem „Wieso“ gefragt. Wieso machen Täter das? Was sind ihre Beweggründe? Und kann man sich schützen?

Da dies den Rahmen eines Wirtschaftspsychologie-Studiums übersteigt und eher in die Tiefen der Psychologie vordringt, mich aber trotzdem interessiert, möchte ich es in diesem Artikel beleuchten.

• MetaGlasses, Deepfakes, Stalkerware, Spionageapps, OSINT & Tracker: Welche Techniken werden heute genutzt

• Wer erstellt heute Deepfakes und was ist ihr Ursprung

• Fall Ulmen & Collien Fernandes

• Ab wann ist etwas digitale Gewalt und wie kann man sich schützen?

• Motive und Täterverhalten: Dunkle Tetrade, Macht / Kontrolle, Sexuelle Objektifizierung, Sadismus, Online-Disinhibition-Effekt

Einleitung: Das Phänomen, Fallzahlen

Als ich zum ersten Mal im privaten Umfeld mit dieser Thematik in Kontakt kam, war ich überrascht, wie weitreichend der Begriff der digitalen Gewalt ist. Irgendwie finde ich es auch schockierend, dass ich erst so spät erfahren habe, dass vieles, was mir und Personen in meinem Umfeld schon begegnet ist, sogar strafbar wäre und das wissen nur wenige.

Es lohnt sich also, sich mit diesem Thema aktiv auseinanderzusetzen, da viele Handlungen, von denen besonders oft Frauen im partnerschaftlichen, familiären oder digitalen Kontext betroffen sind, sowohl im echten Leben als auch online strafrechtlich verfolgt werden können.

Hervorheben möchte ich besonders, dass in der Schweiz seit diesem Jahr eine Gesetzeslücke zu Cyberstalking und Stalking geschlossen wurde und ein eigener Straftatbestand eingeführt wurde. Steigerlegal.ch zitiert auf seiner Webseite das Bundesamt und die Definition von „Nachstellung“ des Straftatbestandes.

Strafrechtlich relevant können ganz unterschiedliche Handlungen sein. Beispielsweise kann es sich um eine Straftat handeln:

• Wenn jemand wiederholt unerwünschte Nachrichten verschickt,

• eine Person über verschiedene Accounts verfolgt,

• ihren Standort heimlich überwacht oder sie massiv unter Druck setzt.

• Öffentliches Beschimpfen einer Person,

• das gezielte Verbreiten rufschädigender Behauptungen

• oder das bewusste Streuen von Unwahrheiten

Es wird besonders problematisch, wenn Technologie dazu genutzt wird, Kontrolle auszuüben. Dazu zählen heimlich installierte Spionage- oder Tracking-Apps, das Verbreiten intimer Aufnahmen ohne Zustimmung der betroffenen Person sowie das unerwünschte Zusenden sexueller Inhalte. Ein Beispiel hierfür sind Dickpics:

Die Beispiele zeigen, wie breit das Spektrum digitaler Gewalt sein kann. Gerade weil vieles davon über das Smartphone oder soziale Medien geschieht, kann es schnell alltäglich wirken. Dadurch ist oft nicht unmittelbar erkennbar, wann eine Grenze nicht nur persönlich, sondern möglicherweise auch rechtlich überschritten wird.

Betroffenheit und Zahlen

98 % aller Deepfake-Videos im Internet sind pornografisch, 99 % der darin gezeigten Personen sind Frauen und zwischen 2019 und 2023 hat sich die Zahl der Deepfakes im Internet um 550 % erhöht. Diese Zahlen stammen aus dem Report „State of Deepfakes 2023“ und wurden im Februar 2026 von der Faktenprüforganisation FactCheckNI als zutreffend bestätigt.

Studien zufolge sind Frauen häufiger von sexuellen Übergriffen, sexueller Belästigung und Stalking betroffen.

Und dann rät der Vorsitzende des Bundes Deutscher Kriminalbeamter, Dirk Peglow, Frauen auch noch, „keine Beziehung zu einem Mann einzugehen“:

Jeden Tag werden mindestens zwei Frauen oder Mädchen Opfer eines versuchten oder vollendeten Tötungsdelikts. Wenn man nicht einmal den Nächsten trauen kann, wie sieht es dann mit Fremden und im virtuellen Raum aus?

Die Werkzeuge: Smartglasses, Deepfakes, Stalkerware, Spionageapps, OSINT & Tracker

Technologie an sich ist selten böse. Die meisten Werkzeuge, die heute für digitale Gewalt genutzt werden, wurden ursprünglich entwickelt, um unser Leben sicherer, praktischer oder unterhaltsamer zu machen. Nützliche Tools und Software werden von Tätern jedoch umfunktioniert und gezielt als Waffen eingesetzt.

Hardware: Die physische Überwachung

Smartglasses, auch „Pervert-Glasses“ genannt

Das erste Mal, als ich von den Smartglasses gehört habe, war es in keinem vorteilhaften Kontext. Vielleicht zuerst einmal, was Smartglasses sind: Es handelt sich um Brillen mit integrierter Computertechnologie, die digitale Informationen direkt im Sichtfeld der Nutzerin bzw. des Nutzers anzeigen. Sie können Benachrichtigungen einblenden, Navigationsanweisungen anzeigen, Fotos und Videos aufnehmen oder Telefonate führen, ohne dass man das Smartphone in die Hand nehmen muss.

Die Brillen nehmen alles aus der Perspektive der tragenden Person auf. Sie werden aktuell hitzig diskutiert, da sie den Datenschutz aller ohne Einwilligung gefilmten Personen gefährden. In Studien wird in diesem Zusammenhang auch von „Ambient Capture“ gesprochen.

Die University of Sydney hat im August 2026 rund 350 öffentliche Instagram-Videos aus Pick-up-Artist-Communities ausgewertet. Darin wird das Ambient Capture beschrieben: das beiläufige, für Umstehende nicht erkennbare Filmen in Alltagssituationen. Im Gegensatz zu Smartphones geben Smart Glasses dabei kein deutliches Signal.

Eine Frau wurde beim Lift angesprochen von einem Mann, der sie dabei heimlich mit seiner Smartglass filmte. Die 21-jährige Dilara war in ihrer Mittagspause. Der Mann hatte bereits Dutzende solcher heimlich gefilmten Videos veröffentlicht, in denen er anderen Männern zeigt, wie man Frauen anspricht.

Das Video mit ihr wurde auf TikTok 1,3 Millionen Mal angeschaut. Ihre Telefonnummer war darin sichtbar, danach wurde sie mit Anrufen und Nachrichten überschüttet.

Die Sachverhalte der berichteten Fälle sind unterschiedlich, aber dabei werden Frauen meist ohne ihre Einwilligung von Männern gefilmt.

Die Sachlagen der berichteten Fälle sind unterschiedlich, gemeinsam ist ihnen, dass Frauen von Männern ohne ihre Einwilligung gefilmt werden. Wer die Nummer nicht herausgibt, landet in manchen Fällen als „Rache“ in den sozialen Medien. In Einzelfällen wurde für das Löschen eines Videos sogar Geld verlangt.

Das zweite Mal, als mir das Thema auffiel, war, als zwei Harvard-Studenten einen Weg fanden, Leute anhand einer Personensuche in Echtzeit live zu identifizieren. Sie konnten die Personen dann auf der Strasse ansprechen und sie davon überzeugen, dass sie sich kennen müssten, da ihnen so viel Kontextwissen zur Verfügung stand.

Inzwischen verfügen die Meta-Glasses selbst über die Fähigkeit, Personen anhand ihrer Gesichter direkt zu identifizieren.

Sicherheitsforscher entdeckten im Code der Meta-AI-Companion-App ungenutzten Programmiercode für eine Funktion namens „NameTag“. Das System war dazu gedacht, Gesichter in biometrische Daten umzuwandeln und diese mit Profilen abzugleichen. Nach öffentlicher Kritik und Protesten von Bürgerrechtlern hat Meta diesen Code mit einem App-Update vollständig entfernt. Bis jetzt.

Auch in Schulen etablieren sich Smartglasses als Belästigungsinstrument. Dies scheint von den erwachsenen „Pick-up-Artist“-Vorbildern beeinflusst zu sein.

Eine Recherche des US-Magazins „Futurism” aus dem August 2026 hat auf den Plattformen TikTok und Instagram eine grosse Zahl von Videos entdeckt, die an Mittel- und Oberschulen mit Smartglasses aufgenommen wurden, fast immer mit der KI-Brille von Meta.

In dem Artikel wird ein Junge erwähnt, der ein Mädchen anspricht, nach ihrer Telefonnummer oder ihrem Social-Media-Handle fragt, nicht aufhört, auch wenn sie sich sichtbar unwohl fühlt, und das Material anschließend online stellt. Ein Schüler mit über 64’000 Followern filmt gezielt Mitschülerinnen, macht sich über ihr Aussehen lustig und hört auch dann nicht auf, wenn sie ihn darum bitten, damit aufzuhören. So wird aus einem Übergriff im Schulflur ein zweiter Übergriff in den Kommentarspalten.

Kompakte Tracker (z.B. Apple AirTags)

Ursprünglich entwickelt, um verlorene Schlüsselbunde wiederzufinden, haben sich Bluetooth-Tracker zu einem äusserst günstigen Werkzeug für Stalking entwickelt. Für wenige Franken oder Euro lassen sich die münzgrossen Sender in Handtaschen, Mantelfutternäcken oder Autos verstecken. Sie ermöglichen eine präzise Standortverfolgung, ohne dass der Täter teure Spionagetechnik kaufen muss. Eine Auswertung für England und Wales zeigt, wie stark das zunimmt: Zwischen 2018 und 2024 stiegen die polizeilich erfassten Stalking-Fälle mit AirTags und GPS-Trackern von 57 auf 568.

Software: Die digitale Infiltration

Während die Hardware die physische Welt überwacht, dringt die Software tief in die Intimsphäre der eigenen Geräte ein.

Deepfakes, Nudifying-Apps

Der Begriff „Deepfake“ entstand Ende 2017 im US-amerikanischen Netzwerk Reddit. Ein anonymer Nutzer mit dem Namen „deepfakes“ veröffentlichte dort Pornovideos, in die er mithilfe frei verfügbarer KI-Werkzeuge die Gesichter bekannter Schauspielerinnen wie Gal Gadot, Scarlett Johansson, Maisie Williams und Taylor Swift hineinrechnete.

Wenige Wochen später entwickelte ein anderer Nutzer eine App, die dasselbe ohne Programmierkenntnisse ermöglichte. Die Technologie wurde somit von Beginn an für sexualisierte Gewalt gegen Frauen in Form von Bildmanipulationen genutzt.

Als Deepfakes werden gefälschte Videos oder Bilder definiert, die mithilfe von künstlicher Intelligenz (KI) erstellt werden. Der Begriff setzt sich aus den Worten „Deep Learning“ (einer Methode der KI) und „Fake“ (Fälschung) zusammen.

Es gibt drei Hauptarten von Deepfakes:

1. Face-Swap (Gesichtstausch): Das Gesicht einer Person wird auf den Körper einer anderen Person in einem Video montiert.

2. Lip-Sync (Mundsynchronisation): Die Lippenbewegungen einer Person werden so verändert, dass sie exakt zu einer eingespielten Tonaufnahme passen.

3. Puppeteering (Marionette): Eine Zielperson wird wie eine Puppe von einer anderen Person (dem „Master“) gesteuert, indem deren Mimik, Kopf- und Augenbewegungen live übertragen werden.

Manche Deepfakes können erheblichen Schaden anrichten, insbesondere auf folgende Weise:

• Erpresserische Deepfakes: Täuschen intime Situationen (z.B. sexuelle Handlungen) vor, um Geld oder sensible Inhalte zu erpressen.

• Betrügerische Deepfakes: Missbrauchen fremde Identitäten für gefälschte Werbung oder Liebesbetrug (Romance Scam).

• Desinformierende Deepfakes: Verbreiten Falschinformationen im Internet, um die öffentliche Meinung zu Politik, Wahlen, Kriegen oder Gesundheit zu manipulieren.

Apps, die vorwiegend Frauen ausziehen („Nudifying-Apps“), sind teilweise im regulären App-Store erhältlich:

Die im Rahmen einer Recherche gefundenen Nudify-Apps wurden insgesamt 483 Millionen Mal heruntergeladen und erzielten einen Umsatz von über 122 Millionen Dollar. 31 dieser Apps waren für Minderjährige freigegeben. Im Januar 2026 zählte das Tech Transparency Project 55 solcher Apps im App Store.

Der obige Artikel zeigt, dass Google und Apple zwar erklären, gegen solche Apps vorzugehen, aber keine neutralen Plattformen sind. Sie lassen bezahlte Anzeigen für „Auszieh-Apps” zu und verdienen an deren Umsätzen mit.

In diesem Zusammenhang stelle ich mir auch die Frage, welche legale und wichtige Nutzung solche Apps überhaupt haben, wer sie nutzt und die ihre Existenz rechtfertigt.

Wer erstellt heute Deepfakes

Früher dachte man, gefälschte Videos (Deepfakes) seien nur ein kleines Problem. Man glaubte, nur wenige Menschen mit viel Computerwissen würden so etwas zum Spass machen. Eine Untersuchung von Forschern aus dem Jahr 2025 zeigt jedoch ein anderes Bild:

• Es wurden ca. 43’000 gefälschte Videos gefunden

• In den Videos wurden 3 800 echte Menschen hineingeschnitten

• Diese Videos wurden insgesamt über 1,5 Milliarden Mal angeschaut

• Fast alle Opfer (über 95 %) sind Frauen

• Am häufigsten betrifft es bekannte Schauspielerinnen und Musikerinnen

Videos werden auf Bestellung angefertigt. Obwohl die Plattform offiziell nur Prominente zulässt, finden sich Hunderte Betroffene darunter, die gar keine Öffentlichkeit haben.

Zusammen mit den Nudify-Apps bedeutet das: Heute können praktisch alle, die ein Smartphone besitzen, solche Inhalte erstellen.

Stalkerware, Spionageapps

Stalkerware ist eine Spionage-Software für Smartphones, die im Hintergrund unbemerkt läuft. Sie lässt sich wie eine normale App installieren und ermöglicht es Tätern, das gesamte Gerät aus der Ferne zu überwachen, von Standorten über Nachrichten bis hin zu Anrufen.

Meist wird sie als Kinderschutz- oder Mitarbeiterüberwachungssoftware verkauft. Durch diese Umdeklarierung ist es möglich, solche Programme legal zu kaufen: Nach dieser Logik macht sich nur strafbar, wer sie heimlich einsetzt, nicht jedoch, wer sie anbietet.

Kaspersky 2026: 46 % der Befragten erlebten innerhalb von 12 Monaten mindestens eine Form des technikgestützten Missbrauchs. Nur 32 % von ihnen verstanden den Begriff korrekt. Über 34’000 Nutzende waren 2024/25 von Stalkerware betroffen, in über 160 Ländern.

OSINT

Oft nutzen Täter völlig frei zugängliche Daten, um Opfer zu verfolgen. Dazu reichen bereits harmlose Social-Media-Posts, Urlaubsfotos mit erkennbarem Hintergrund oder öffentlich geteilte Laufstrecken in Fitness-Apps wie Strava. Aus diesen Puzzleteilen lassen sich tagesgenaue Bewegungsprofile und Verhaltensmuster erstellen, ohne dass der Täter auch nur ein einziges Passwort knacken muss.

Das Fazit

Die Gefahr dieser Werkzeuge liegt in ihrer Unscheinbarkeit. Da es sich um normale Gebrauchsgegenstände und gängige Apps handelt, erkennen Betroffene die Überwachung oft erst spät. Täter können ihr Verhalten zudem leicht als „Sorge“ oder „Vergesslichkeit“ tarnen.

Die Täter-Psychologie (Dunkle Triade, Kontrollwahn, Online-Enthemmung)

Ein Fall, der kürzlich Aufsehen erregte, war der Fall Ulmen und Fernandes. Der Spiegel veröffentlichte im März 2026 den Text „Du hast mich virtuell vergewaltigt“. Die Schauspielerin Collien Fernandes schildert darin, dass jahrelang gefälschte Pornobilder und -videos von ihr im Netz kursierten und Fake-Accounts in ihrem Namen sexuelle Chats mit Männern führten, teilweise bis hin zu Telefonsex mit einer KI-generierten Stimme. Sie ging ursprünglich davon aus, dass Internettrolle dahinterstecken. Ihr eigener Mann Christian Ulmen hat ihr Ende 2024 gestanden, dass er die anzüglichen Fotos von ihr verbreitet hatte. Bei einigen Interviews war auch von Deepfakes die Rede.

Unabhängig davon, was am Ende juristisch übrig bleibt, beschreibt Fernandes in dem Artikel ein durchgehendes Muster, das auf einem tiefen Macht- und Kontrollbedürfnis basiert. Sie schildert auch Gewalt in der physischen Welt. Der Fall illustriert eindrücklich, dass digitaler Missbrauch eher ein Symptom tiefsitzender psychologischer Dynamiken ist, bei denen digitale Werkzeuge als Verstärker fungieren.

Warum erstellt jemand sexuelle Deepfakes, betreibt digitales Stalking oder verbreitet unerlaubt intime Bilder?

Die Forschung zur Täterpsychologie zeigt ein Geflecht aus Persönlichkeitsmerkmalen, Einstellungen, emotionalen Problemen, Beziehungskonflikten und Machtmotiven.

Die Persönlichkeit der Täter: The Dark Tetrad

Die Dark-Tetrad-Merkmale (Machiavellismus, Narzissmus, Psychopathie und Sadismus) stehen im Zusammenhang mit Cyberstalking.

• Machiavellismus: Skrupellose Manipulation und Kaltblütigkeit

• Narzissmus: Ein übersteigertes Ego, gepaart mit einer extremen Empfindlichkeit gegenüber Kränkungen

• Psychopathie: Mangelnde Empathie, Impulsivität und Gewissenlosigkeit

• Sadismus: Das bewusste Geniessen des Leids anderer

Studien zu Cyberstalking und bildbasierter sexualisierter Gewalt finden Zusammenhänge mit mehreren dieser Merkmale.

Eine Studie zeigte, dass Machiavellismus und Psychopathie mit einer höheren Bereitschaft zu sexualisierter Gewalt in Form von Bildern einhergehen. Eine wichtige Rolle spielte dabei die moralische Entkopplung: Täter können ihr Verhalten vor sich selbst verharmlosen oder dem Opfer die Verantwortung zuschieben. Beispielsweise mit der Begründung: „Sie hätte mir das Bild eben nicht schicken dürfen.“

Sadismus und narzisstische Rivalität führen dazu, dass Täter Online-Belästigung und digitale sexuelle Gewalt als erregend oder belustigend empfinden. Das erklärt, warum Angriffe trotz des sichtbaren Leidens der Betroffenen weitergehen.

Nicht jede Person mit einem dieser Persönlichkeitsmerkmale ist jedoch ein Stalker und nicht jede:r Stalker:in hat eine „Dark Tetrad“-Persönlichkeit. Eine Befragung in Grossbritannien ergab, dass 42 % der Befragten es für akzeptabel halten, den Partner ohne dessen Einwilligung digital zu überwachen.

Macht und Kontrolle

Insbesondere bei Stalking durch Ex-Partner stehen häufig Macht und Kontrolle im Vordergrund. Eine Trennung bedeutet den Verlust von Nähe und Einfluss. Der Mechanismus kann sich in permanenten Nachrichten, der Überwachung sozialer Medien, dem Zugriff auf Accounts, Standortkontrolle oder der Drohung, intime Inhalte zu veröffentlichen, zeigen.

5 Stalkertypen

Es werden 5 Stalker-Typen unterschieden:

1. „Abgewiesen“

2. „auf Intimität aus“

3. „unfähiger Verehrer“

4. „nachtragend“

5. „ausbeuterisch“

In einer Untersuchung waren 75 % der Fälle vom Typ „Abgewiesen”, 14 % vom Typ „Nachtragend” und jeweils 3 – 5 % der übrigen Kategorien. Stalking nach Trennungen entspringt oft einer Mischung aus Sehnsucht und Rache. Es ist also kein Liebesbeweis, sondern der Versuch, Macht und Kontrolle zu behalten.

Online-Enthemmungseffekt bei Bildern und Objektifizierung der Person

Ein wichtiger psychologischer Erklärungsansatz ist der von John Suler entwickelte Online-Enthemmungseffekt. Dieser besagt, dass Anonymität, Unsichtbarkeit, räumliche Distanz, minimierte Autorität und die fehlende unmittelbare Reaktion des Gegenübers dazu führen können, dass Menschen online enthemmter handeln als im direkten Kontakt.

Für digitale Gewalt ist diese sichtbare Distanz entscheidend. Wer jemanden persönlich bedroht oder erniedrigt, sieht möglicherweise Angst, Tränen oder Abwehr. Online fehlt diese direkte Rückmeldung jedoch oft.

Viele Täter halten sich nicht für Täter. Gerade bei sexuellen Deepfakes und dem Effekt der Objektifizierung wird diese Logik besonders deutlich. Eine Studie aus dem Jahr 2011 hat mit bildgebenden Verfahren gezeigt: Wenn Männer sexualisierte Bilder von Frauen betrachten, sinkt die Aktivität in genau jenen Hirnarealen, mit deren Hilfe wir anderen Menschen Absichten, Gedanken und ein Innenleben zuschreiben.

Das eigentlich Beunruhigende ist die Normalität

Wenn man nur auf Persönlichkeitsstörungen schaut, übersieht man das grössere Problem. Eine Umfrage von NortonLifeLock ergab, dass 46 % der Befragten angaben, eine aktuelle oder frühere Partnerin ohne deren Wissen online zu kontrollieren, bei den 18- bis 39-Jährigen waren es sogar 60 %. 43 % der Männer, aber nur 27 % der Frauen, fanden Online-Stalking unproblematisch, solange es nicht offline passiere.

Definition & Schutz: Ab wann ist es Gewalt und wie schützen?

Wie eingangs erwähnt, stelle ich im Austausch oft fest, dass vielen das Wissen fehlt, dass das Verhalten, das wir einfach tolerieren, auch Folgen für die Täter haben kann. So hatte ich beispielsweise einen Austausch mit 12- bis 15-jährigen Mädchen in einem Workshop. Mehrere von ihnen bestätigten mir, dass sie schon einmal ein Dickpic oder ähnliche anzügliche Bilder unaufgefordert und ungewollt zugeschickt bekommen haben. Sie waren überrascht, dass man so etwas anzeigen kann und dass es als Belästigung gilt.

Wie netzpigcock.ch erklärt, fällt das unter den Pornografie-Tatbestand und ist verboten. Der Versand an Personen unter 16 Jahren wird zudem härter bestraft. Vielen ist das nicht bewusst, deshalb wird es selten angezeigt. Und die Täter machen weiter.

Nicht jede verletzende, unangenehme oder grenzüberschreitende Handlung im digitalen Raum ist automatisch strafbar. Ob tatsächlich eine Straftat vorliegt, hängt von den Umständen und den jeweiligen gesetzlichen Voraussetzungen ab. Ich bin keine Juristin, dieser Artikel ist keine Rechtsberatung und die Beispiele hier erheben keinen Anspruch auf Vollständigkeit. Wer wissen will, ob im eigenen Fall etwas strafbar ist, klärt das am besten mit einer Beratungsstelle oder einer Anwältin.

Einfache Cyber-Hygiene macht einen Unterschied

Viele Schutzmassnahmen sind wenig aufwendig, hier könnt ihr eine Checkliste herunterladen, um eure Cyberhygiene zu fördern.

Bei sozialen Netzwerken lohnt sich ausserdem ein gelegentlicher Privatsphäre-Check: Wer sieht meine Beiträge? Wer kann mich markieren? Ist meine Freundes- oder Kontaktliste öffentlich? Können Fremde anhand meiner Telefonnummer oder E-Mail-Adresse mein Profil finden?

Smartglasses und Airpods

Es wird zunehmend schwierig bis unmöglich, zu erkennen, wann eine Smart-Brille (oder bald auch die AirPods des Sitznachbarn im Bus) uns aufnimmt.

Eine interessante technische Hilfestellung bietet hier die Android-App „Nearby Glasses”. Sie versucht, Bluetooth-Signale bestimmter Smartglasses in der Umgebung zu erkennen und benachrichtigt uns dann:

Eine solche App kann natürlich keine hundertprozentige Sicherheit bieten. Je weiter die Brillen verbreitet sind, desto schwieriger wird es, ein Signal einer bestimmten Person zuzuordnen.

Unbekannte Tracker und Geräte überprüfen

Wenn der Verdacht besteht, dass Bewegungen überwacht werden, lohnt es sich auch, die eigenen Geräte und die unmittelbare Umgebung zu überprüfen. Smartphones können heute teilweise vor unbekannten Bluetooth-Trackern warnen, die sich über einen längeren Zeitraum hinweg in der Nähe einer Person befinden. Solche Warnmeldungen sollten nicht einfach weggeklickt werden.

Auch ungewöhnliche Veränderungen am Smartphone können einen genaueren Blick rechtfertigen: unbekannte Apps, unerwartete Freigaben des eigenen Standorts oder Geräte, die plötzlich Zugriff auf ein Benutzerkonto haben. In den Einstellungen wichtiger Konten sollte deshalb regelmässig geprüft werden, welche Geräte angemeldet sind und mit wem Standortinformationen geteilt werden.

Bei Verdacht auf Überwachung den Tracker oder die Spionage-App nicht vorschnell entfernen, um die gewaltausübende Person nicht zu alarmieren, sondern zuerst eine Fachstelle kontaktieren. Und Beweise festhalten, denn ohne sie lässt sich kaum Anzeige erstatten.

Checkliste und Fazit

Eine Checkliste für die digitale Selbstverteidigung könnt ihr hier downloaden:

Checkliste Digitale Selbstverteidigung

82.3KB ∙ PDF file

Download

Download

Technische Schutzmassnahmen sind dabei jedoch nur ein Teil der Lösung. Apps zur Erkennung von Smartglasses oder Trackern sowie sichere Passwörter und Privatsphäre-Einstellungen können Risiken reduzieren. Genauso wichtig ist das Wissen darüber, wo digitale Grenzüberschreitungen beginnen und welche Rechte wir haben, sodass wir nicht alles hinnehmen müssen.

Ich hoffe nicht, dass wir so weit gehen müssen, wie Dirk Peglow es eingangs zugespitzt formuliert hat. Aber ich finde eine gewisse Vorsicht und Prävention angebracht.

Bis bald!

Jill

Quellen:

42% of Brits believe ‘cyberstalking’ partners is acceptable, paving the way for domestic abuse. (2024, März 20). /. https://www.kaspersky.co.uk/about/press-releases/42-of-brits-believe-cyberstalking-partners-is-acceptable-paving-the-way-for-domestic-abuse

A deep dive into deepfakes that demean, defraud and disinform. (2024, Juli 23). Www.Ofcom.Org.Uk. https://www.ofcom.org.uk/online-safety/illegal-and-harmful-content/deepfakes-demean-defraud-disinform

AirTag: Ortungshilfe mit Nebenwirkungen und Alternativen. (o. J.). Abgerufen 23. August 2026, von https://www.adac.de/reise-freizeit/ratgeber/reisetipps/apple-airtag-funktionen/

Apple baut Kameras in AirPods ein – sie sollen Siri sehen lassen. (2026, August 18). Tages-Anzeiger. https://www.tagesanzeiger.ch/apple-airpods-neue-kameras-sollen-siri-augen-geben-615218641632

BKA - Meldungen—Dunkelfeldstudie LeSuBiA veröffentlicht: Neue Erkenntnisse zur Gewaltbetroffenheit in Deutschland. (o. J.). Abgerufen 21. August 2026, von https://www.bka.de/SharedDocs/Kurzmeldungen/DE/Kurzmeldungen/260210_LeSuBiA.html

Deepfakes: The face-swapping software explained. (2018, März 1). [Videoaufnahme]. https://www.bbc.com/news/av/technology-43118477

Dickpic-Versand: 750 Franken Busse. (2025, Juni 10). 20 Minuten. https://www.20min.ch/story/kanton-st-gallen-29-jaehriger-verschickt-dickpic-per-whatsapp-hohe-strafe-103361467

mhfx_ai_creative. (2024, September 23). Create a PERFECT DeepFake Lip-Sync in 1 MINUTE (2 methods) [Videoaufnahme]. https://www.youtube.com/watch?v=wI_YJGB1e5U

Nguyen, T. T., Nguyen, Q. V. H., Nguyen, D. T., Nguyen, D. T., Huynh-The, T., Nahavandi, S., Nguyen, T. T., Pham, Q.-V., & Nguyen, C. M. (2022). Deep learning for deepfakes creation and detection: A survey. Computer Vision and Image Understanding, 223, 103525. https://doi.org/10.1016/j.cviu.2022.103525

Weekes, C. J., Storey, J. E., & Pina, A. (2026a). Cyberstalking Perpetrators and Their Methods: A Systematic Literature Review. Trauma, Violence & Abuse, 27(3), 1009–1025. https://doi.org/10.1177/15248380251333411

Cikara, M., Eberhardt, J. L., & Fiske, S. T. (2011). From Agents to Objects: Sexist Attitudes and Neural Responses to Sexualized Targets. Journal of Cognitive Neuroscience, 23(3), 540–551. https://doi.org/10.1162/jocn.2010.21497

Afrouz, R. (2023). The Nature, Patterns and Consequences of Technology-Facilitated Domestic Abuse: A Scoping Review. Trauma, Violence & Abuse, 24(2), 913–927. https://doi.org/10.1177/15248380211046752

Augmented AI. (2026, Januar 21). Puppeteer Any Avatar with AI Motion Generation! Kling 2.6 n8n workflow [Videoaufnahme]. https://www.youtube.com/watch?v=y-RW-faelks

Böhm, M. (2018, Februar 7). Pornografie: Reddit nimmt umstrittenes Deepfakes-Subreddit offline. Der Spiegel. https://www.spiegel.de/netzwelt/web/deepfakes-online-plattformen-wollen-fake-promi-pornos-loeschen-a-1192170.html

Channel 4 News. (2026, August 12). How a Meta glasses recording left this 17-year-old „scared“ [Videoaufnahme]. https://www.youtube.com/watch?v=o6PC_4OMcXo

Dupré, M. H. (2026, August 19). Teen Boys Are Using Meta Glasses to Terrorize Girls at High Schools and Middle Schools. Futurism. https://futurism.com/artificial-intelligence/teen-boys-meta-glasses-harass-bully-girls-school

FactCheckNI. (2026, Februar 5). Online safety in NI: Do 99% of pornographic deepfakes depict images of women? FactCheckNI. https://factcheckni.org/articles/online-safety-in-ni-do-99-of-pornographic-deepfakes-depict-images-of-women/

Home, for, I., Resources, Media, News, About, partner, B. a, DeutschDEEspañolESFrançaisFRItalianoITPortuguêsPTPусскийRU, L. E. ▾, DeutschDE, EspañolES, FrançaisFR, ItalianoIT, PortuguêsPT, & PусскийRU. (o. J.). SpyGuard vs. Stalkerware: Detecting Digital Abuse Safely and Effectively | Coalition Against Stalkerware (EN). Abgerufen 23. August 2026, von https://stopstalkerware.org/2025/05/19/spyguard-vs-stalkerware-detecting-digital-abuse-safely-and-effectively/

Kaspersky 2023 report on stalkerware | Securelist. (2024, März 13). https://securelist.com/state-of-stalkerware-2023/112135/

Kaspersky: Half of adults have experienced tech-enabled abuse, but most don’t recognize it. (2026, Mai 19). /. https://www.kaspersky.com/about/press-releases/kaspersky-half-of-adults-have-experienced-tech-enabled-abuse-but-most-dont-recognize-it

Kriminalstatistik: „Besser keine Beziehung mit einem Mann eingehen“ #short #shorts #shortvideo. (o. J.). [Videoaufnahme]. Abgerufen 21. August 2026, von https://www.youtube.com/shorts/AsEvBf-EoSE

Mehrotra, D., & Cameron, D. (2026, Juni 4). Meta Silently Added Face-Recognition Code for Its Smart Glasses to Millions of Phones. Wired. https://www.wired.com/story/meta-smart-glasses-face-recognition-nametag-connections/

Men are using smart glasses to secretly film women. (o. J.). [Videoaufnahme]. Abgerufen 21. August 2026, von https://www.youtube.com/shorts/CwnKvspVGT0

Meta Plans To Add Facial Recognition To Its Smart Glasses—YouTube. (o. J.). Abgerufen 21. August 2026, von https://www.youtube.com/watch?v=0z0Li3tWKwQ&t=156s

NOVA | Deepfake Videos Are Getting Terrifyingly Real | Season 46. (o. J.). [Videoaufnahme]. Abgerufen 21. August 2026, von https://www.pbs.org/video/deepfake-videos-are-getting-terrifyingly-real-xywbdx/

Oberster deutscher Kriminalbeamter rät Frauen: «Besser keine Beziehung mit Mann eingehen». (o. J.). Abgerufen 21. August 2026, von https://www.watson.ch/videos/!51322

Pina, A., Bell, A., Griffin, K., & Vasquez, E. (2021). Image Based Sexual Abuse proclivity and victim blaming: The role of dark personality traits and moral disengagement. Oñati Socio-Legal Series, 11(5), 1179–1197. (España, Internacional). https://doi.org/10.35295/osls.iisl/0000-0000-0000-1213

Powell, A., Henry, N., Flynn, A., & Scott, A. (2018). Image-based sexual abuse: The extent, nature, and predictors of perpetration in a community sample of Australian residents. Computers in Human Behavior. https://doi.org/10.1016/j.chb.2018.11.009

Ruiz, D. (2020, Februar 26). Stalkerware and online stalking are accepted by Americans. Why? | Malwarebytes Labs. Malwarebytes. https://www.malwarebytes.com/blog/news/2020/02/stalkerware-and-online-stalking-are-accepted-by-americans-why

Scatola, S. T., Ivana. (2026, Februar 9). So-called ‘manfluencers’ are filming themselves trying to pick up women. Smart glasses are their perfect tool. CNN. https://www.cnn.com/2026/02/09/world/manfluencers-smart-glasses-intl

Smart Glasses mit Kamera: Datenschutzrisiken der KI-Brillen erklärt. (2026a, August 7). Schweizer Radio und Fernsehen (SRF). https://www.srf.ch/news/gesellschaft/digitale-privatsphaere-wie-merke-ich-ob-mich-jemand-mit-smart-glasses-filmt

Smart glasses pose new harassment risks for women, researchers find. (o. J.). The University of Sydney. Abgerufen 22. August 2026, von https://www.sydney.edu.au/news-opinion/news/2026/08/11/smart-glasses-pose-new-harassment-risks-for-women-research-meta.html

«Smart Glasses sind ein Frontalangriff auf unsere Privatsphäre». (o. J.). watson.ch. Abgerufen 23. August 2026, von https://www.watson.ch/!796290848

Stalking über GPS und Airtags wird immer häufiger. (o. J.). Abgerufen 24. August 2026, von https://www.watson.de/panorama/782425902-stalking-ueber-gps-und-airtags-wird-immer-haeufiger

Steiger, R. M. (2026, Januar 2). Stalking-Opfer erhalten besseren strafrechtlichen Schutz in der Schweiz. Steiger Legal. https://steigerlegal.ch/2026/01/02/stalking-schweiz-strafbarkeit/

Suler, J. (2004). The online disinhibition effect. Cyberpsychology & Behavior: The Impact of the Internet, Multimedia and Virtual Reality on Behavior and Society, 7(3), 321–326. https://doi.org/10.1089/1094931041291295

This App Warns You if Someone Is Wearing Smart Glasses Nearby. (o. J.). [Videoaufnahme]. Abgerufen 21. August 2026, von https://www.youtube.com/shorts/YDntCxQj3Zc

TTP - Apple and Google Are Steering Users to Nudify Apps. (o. J.). Abgerufen 23. August 2026, von https://www.techtransparencyproject.org/articles/apple-and-google-are-steering-users-to-nudify-apps

Wo finde ich Hilfe? - Opferhilfe Schweiz. (o. J.). Abgerufen 23. August 2026, von https://www.opferhilfe-schweiz.ch/de/wo-finde-ich-hilfe/

Women filmed in secret for social media content—Then harassed online. (2026, Januar 24). https://www.bbc.com/news/articles/cr7jej2elyyo

Was ich aus dem Gespräch mitgenommen habe:

• Der Ursprung der Technologie liegt im sexualisierenden Bereich: Die allerersten Deepfakes wurden 2017 von einem anonymen User veröffentlicht, der auch gleich den Code mitgeteilt hat. Sein Nutzername: „deepfakes”. Er hat der ganzen Technologie den Namen gegeben.

• Sechs Finger zählen, komische Reflexionen, asymmetrische Ohrringe: Das ist überholt. Einen gut gemachten Deepfake erkennen wir mit blossem Auge nicht mehr, bei Audio noch weniger als bei Video.

• Die Lügnerdividende: Wenn alles fake sein könnte, lässt sich auch alles Echte als fake abtun. Von Videobeweisen vor Gericht über Menschenrechtsverletzungen in autoritären Regimen bis zum Video der Tötung von George Floyd, das kurz danach als angeblich gefälscht bezeichnet wurde.

• Drei grosse Problemfelder: politische Desinformation, sexualisierte Gewalt und Betrug. Allein in Deutschland schätzt die Zentralstelle Cybercrime Bayern den Schaden durch Deepfake-Betrug auf rund eine Milliarde Euro pro Jahr.

• Auch offensichtlich KI-generierte Inhalte wirken. Niemand glaubt, dass Olaf Scholz Bodybuilder ist, aber das Bild bleibt trotzdem im Kopf und macht die Person lächerlich.

• Warum Selbstschutz kaum möglich ist: Ein einziges Bild in vernünftiger Auflösung genügt. Der Ratschlag „poste einfach nichts mehr” ist genau das, was die Täter erreichen wollen.

• Südkorea als Warnsignal: Zehntausende betroffene Frauen, Telegram-Gruppen teilweise spezialisiert auf einzelne Schulen und einzelne Opfer. Die Folge: Massenhafte Löschung von Social-Media-Profilen.

• Was Unternehmen tun können: Mehrfaktor-Authentifizierung, Kanalwechsel zur Verifikation, Schulungen und vor allem eine vorbereitete Krisenkommunikation für den Fall, dass die eigene Geschäftsleitung plötzlich in einem Fake-Video auftaucht.

• Was Privatpersonen tun können: Codewörter in der Familie vereinbaren, bei Schockanrufen über einen zweiten Kanal zurückrufen, kritische Rückfragen stellen.

• Wo die Regulierung steht: Kennzeichnungspflichten aus der KI-Verordnung, ein geplantes Verbot von „Nudify”-Tools und eine EU-Richtlinie, welche die Verbreitung sexualisierender Deepfakes bis Mitte nächsten Jahres in allen Mitgliedstaaten strafbar machen muss.

Ein paar Auszüge aus dem Gespräch:

• „Ich brauche nur ein einziges Bild in vernünftiger Auflösung. Damit kann ich jede Person faken.”

• „Der Ursprung der Technologie liegt im Bereich sexualisierende Deepfakes. Das ist wichtig, dass wir das realisieren.”

• „Wenn ich merke, ich bin gerade total wütend, total ängstlich, total emotional, dann muss mich das kurz aufhorchen lassen. Vielleicht ist das genau das, was beabsichtigt ist.”

Und ein eigener Praxis-Einblick aus der Folge: Wir haben für ein Unternehmen einen Deepfake-Angriff simuliert. Ich war im Videocall mit dem Gesicht einer HR-Mitarbeiterin unterwegs. Einige haben gemerkt, dass etwas nicht stimmt, aber „sorry, meine Kamera spinnt heute” hat gereicht, damit die Sache erledigt war.

Bis bald! Jill

Hier findet ihr mehr zu Maria:

• LinkedIn: https://www.linkedin.com/in/mariapawelec/

Kennst du jemanden, der sich für Cybercrime, Security und Psychologie interessiert? Dann empfiehl den Podcast Cyber & Psych gern weiter, ich freue mich darüber!

Reinhören: Spotify Cyber & Psych Apple Cyber & Psych Youtube Cyber & Psych

Wo werden Papiere oder wichtige Schlüssel aufbewahrt? Wie viele Bankkonten hat diese Person und gibt es Passwörter, oder geschützte Geräte?

Warum sorgen eigentlich so wenige Leute für den Ernstfall vor? Irgendwie kommt dann auch der Gedanke: „Ja, wenn ich nicht mehr hier bin, dann ist es mir ja auch egal.“

Dahinter stecken u.a. psychologische Muster wie der Optimismus-Bias, Gegenwarts-Bias, der Ostrich-Effekt. Wenn wir sie benennen können, verlieren sie einiges von ihrer Kraft und wir können sie angehen.

Dazu kommt ein praktisches Problem: unser Nachlass ist in den letzten zwanzig Jahren umgezogen. Früher lag das Wesentliche in einem Ordner im Schrank. Heute verteilt sich dasselbe Material auf dreissig bis siebzig Online-Konten, verschlüsselt und hinter Passwörtern, die niemand kennt.

In diesem Artikel geht es um:

• Warum 64 % ein Testament wichtig finden und nur 25 % eins haben

• Biases: warum es immer die anderen trifft und wieso „später” fast immer gewinnt

• 3 Schritte für den digitalen Nachlass

Jetzt einlesen:

Zum Artikel

💡 Wichtiges aus der Cyberwelt:

Mit Toten chatten? KI-Griefbots: Ein Team der University of Colorado Boulder hat 16 trauernde Personen mit zwei Varianten von KI-Nachbildungen Verstorbener chatten lassen, einmal als „Reinkarnation” in der Ich-Form, einmal als Mittler in der dritten Person. Erwartet hatten die Forschenden ein Black-Mirror-Gefühl. Bekommen haben sie das Gegenteil: die Teilnehmenden bevorzugten klar die Ich-Variante, und alle würden so eine Technologie wieder nutzen. Faktische Fehler störten weniger als gedacht, entscheidend war der Ton. Ein falscher Kosename reichte, damit einzelne den Chat abbrachen. Fast alle machten sich allerdings Sorgen, wie ihre eigenen Hinterbliebenen damit umgehen würden. Trainiert werden solche Bots mit Chatverläufen, Sprachnachrichten und Fotos, also genau mit dem Material, das in unserem digitalen Nachlass liegt. Quelle: https://wissenschaft.de/artikel/ki-griefbots-wie-wir-mit-den-toten-sprechen / https://dl.acm.org/doi/10.1145/3800645.3813090

China erklärt Spielkonten für vererbbar: Chinesische Gerichte haben einer Mutter den Zugang zu 87 Spielkonten ihres verstorbenen Sohnes zugesprochen und digitale Spielvermögen damit wie Eigentum behandelt. Bei uns hängt vieles weiterhin an den AGB der Anbieter und vor allem daran, ob die Angehörigen überhaupt wissen, dass es ein Konto gibt. Quelle: https://de.vgtimes.com/gaming-news/160880-chinesische-gerichte-entscheiden-dass-spielkonten-und-digitale-kufe-vererbt-werden-knnen.html

222 Gigabyte aus einer Treuhandfirma im Darkweb: Am 7. Juli bekannte sich die Ransomware-Gruppe BravoX zu einem Angriff auf eine Treuhandfirma im Kanton Waadt. Das Ultimatum lief ab, die Gruppe machte ihre Drohung wahr. Im Darkweb stehen nun über 100'000 Dokumente und Dossiers mit sensiblen Informationen zu Unternehmen, Gemeinden und Einzelpersonen, darunter auch Daten des Waadtländer Staatsrats Vassilis Venizelos. Quelle: https://www.inside-it.ch/cyberangriff-legt-westschweizer-behoerdendaten-offen-20260723

👀 Watch

👀 Watch

Tali Sharot fragt in ihrem TED-Talk das Publikum, wer sich beim Autofahren, bei der Ehrlichkeit oder der Sozialverträglichkeit zu den oberen 25 % zählt. Es strecken jedes Mal deutlich mehr als ein Viertel die Hand auf. Statistisch unmöglich, psychologisch völlig normal. Genau dieser Optimismus hilft uns morgens aus dem Bett und steht uns bei der Vorsorge im Weg:

🛠 Do

Gegen Choice Overload und Complexity Bias hilft eine fertige Vorlage. DeinAdieu ist ein Schweizer Portal, auf dem sich Testament, Patientenverfügung und Vorsorgeauftrag online Schritt für Schritt zusammenklicken lassen: https://www.deinadieu.ch/

Hast du für deine wichtigsten Konten schon einen Nachlasskontakt hinterlegt, oder steht das auch bei dir seit Monaten auf der Liste? Schreib mir gerne.

Happy Sonntag 👋

Bis bald!

Jill

Wo werden Papiere oder wichtige Schlüssel aufbewahrt? Wie viele Bankkonten hat diese Person und gibt es Passwörter, oder geschützte Geräte? Auch für mich selbst habe ich mir vorgenommen, praktische Schritte anzugehen, schiebe diese aber doch immer wieder hinaus.

In diesem Artikel geht es um:

• Warum 64 % ein Testament wichtig finden und nur 25 % eins haben

• Biases: warum es immer die anderen trifft und wieso „später” fast immer gewinnt

• 3 Schritte für den digitalen Nachlass

Irgendwie kommt dann auch der Gedanke: „Ja, dann bin ich ja nicht mehr hier, dann ist es mir ja auch egal.“

Jetzt einlesen:

Zum Artikel

Wo werden Papiere oder wichtige Schlüssel aufbewahrt? Wie viele Bankkonten hat diese Person und gibt es Passwörter, oder geschützte Geräte? Auch für mich selbst habe ich mir vorgenommen, praktische Schritte anzugehen, schiebe diese aber doch immer wieder hinaus.

Irgendwie kommt dann auch der Gedanke: „Ja, dann bin ich ja nicht mehr hier, dann ist es mir ja auch egal.“

Theoretisch könnte es aber auch vorher schon einen positiven Effekt haben, wenn ich mich um das Thema kümmere. Wenn ich mich darum kümmere, habe ich mehr Kontrolle über mein Leben. Ich setze mich mit der Frage auseinander, was für mich am Ende zählt, und lerne so meine Werte besser kennen. Man regelt Beziehungen im Umfeld, zeigt ihnen, wie sehr man sie schätzt, und überlässt sie nicht einfach einem „Scherbenhaufen“. Verantwortlichkeiten können geregelt werden. Man hat einen Notfallplan für den Fall, dass es nicht zum Schlimmsten kommt, man aber trotzdem die Hilfe anderer benötigt. Und nicht zuletzt ist es oft so: Wenn man etwas aufschiebt, das man weiss, hätte man es tun sollen, dann belastet es einen umso mehr.

In diesem Artikel geht es um:

• Die psychologischen Gründe, warum wir uns nicht mit dem Tod auseinandersetzen

• Warum wir keine Vorkehrungen treffen

• Lösungen und Herangehensweisen, um die Kontrolle zurückzugewinnen

Gemäss der Schweizer Erbschaftsstudie 2023 hinterlässt nur etwa jede vierte verstorbene Person in der Schweiz ein Testament (ca. 25 %). Die grosse Mehrheit von rund 75 % verstirbt, ohne den Nachlass individuell geregelt zu haben. Zwar gab es während der Corona-Pandemie einen kleinen Aufschwung und kurzzeitig schienen sich mehr Menschen mit dem eigenen Todesfall auseinanderzusetzen, doch dieser Trend scheint bereits wieder vorbei zu sein. Aber wieso ist das so? Warum mögen wir dieses Thema so wenig?

In vielen Kulturen ist dieses Thema mit Tabus und Aberglauben verbunden. Über dieses Thema zu sprechen, könnte Unglück bringen. Es herrscht eine diffuse Angst vor dem Tod, weshalb das Thema vermieden wird. Dadurch beginnen wir, es zu verdrängen.

Intentions-Verhaltens-Gap

Wir geben zwar an, dass uns ein Thema wichtig ist, handeln dann aber doch nicht entsprechend. Das zeigt sich beispielsweise in der Studie, in der 64 % angaben, es sei wichtig, ein Testament zu haben, aber nur etwa 25 % tatsächlich eines erstellen. Dafür kann es viele verschiedene Gründe geben: praktische, mentale, diese sind individuell.

1/Es trifft immer die anderen und der Optimismus-Bias

Theoretisch wissen wir, dass ein Unfall oder ein Schlaganfall jede:n jederzeit treffen kann. Dennoch sagen wir uns: „Mir passiert das nicht.“ Der Psychologe Neil Weinstein hat dies 1980 in einer heute klassischen Studie gezeigt: Er liess Menschen einschätzen, wie wahrscheinlich es ist, dass ihnen bestimmte Dinge zustossen. Fast alle hielten sich für überdurchschnittlich sicher vor Krankheit, Unfall und Unglück. Da per Definition nicht die Mehrheit einer Gruppe „besser als der Durchschnitt“ sein kann, lieferte die Studie den Beweis für eine kollektive Fehlwahrnehmung.

Der Begriff „Optimismus Bias“ wurde durch Tali Sharot bekannt:

In ihrem TED-Talk fragt sie das Publikum gleich zu Beginn nach seiner eigenen Einschätzung. Beispielsweise fragt sie, ob sie zu den unteren oder oberen 25 % gehören, was ihre Autofahr-Fähigkeiten, ihre Sozialverträglichkeit oder ihre Ehrlichkeit betrifft. Natürlich strecken meistens mehr als 25 % der Leute die Hand auf. Was statistisch nicht möglich ist. Wir schätzen uns also im Privaten jeweils sehr optimistisch ein. Tali Sharot fand in ihren Experimenten auch eine spezifische Hirnregion, die für diesen Bias zuständig ist. Dennoch kommt sie zu dem Fazit, dass dieser Bias zwar unser Risikoverhalten erhöhen kann, sie ihn aber immer noch als nützlich empfindet. Wir sollten uns dessen bewusst sein und versuchen, eine gesunde Balance zu finden, um trotzdem vorzusorgen und nicht alles dem Optimismus zu überlassen („just in case“).

Ein optimistischer Blick auf die Dinge ist im Alltag also durchaus nützlich, sonst käme man morgens kaum aus dem Bett. Für eine realistische Vorsorge und um in die Tat zu kommen, müssen wir diesen Effekt jedoch überwinden.

2/„Dann bin ich ja sowieso nicht mehr da“: Gegenwarts-Bias

Der Gedanke „Dann bin ich ja sowieso nicht mehr da, also ist es mir egal“ ist mir selbst schon durch den Kopf gegangen. Ein Effekt, der hier mitspielt, ist der Gegenwarts-Bias. Wir gewichten, was heute passiert, als wertvoller als das ferne Unbekannte. Die Kosten fallen bei der Vorsorge also heute an, der Nutzen jedoch erst zu einem unbekannten Zeitpunkt in der Zukunft. Und er fällt sogar bei anderen Menschen an, nicht bei mir.

3/Wegschauen: Ostrich-Effekt

Wenn wir unseren Bankkontostand nicht prüfen, müssen wir nicht wissen, wie schlecht er steht. Darum prüfen wir erst gar nicht nach. Das beschreibt den Ostrich-Effekt ziemlich gut. Wir meiden Informationen, die eigentlich nützlich und verfügbar wären, da sie negative Gefühle auslösen können.

Vorsorge zwingt uns dazu, uns mit Dingen auseinanderzusetzen, vor denen wir sonst die Augen verschliessen würden. Man muss sich beispielsweise vorstellen, wie es wäre, wenn die Entscheidung darüber gefällt würde, ob wir kremiert werden oder ein Grab wollen. Oder ob wir lebenserhaltende Massnahmen erhalten sollten und wer was erhält, nachdem wir weg sind.

Weitere Effekte, die reinspielen, sind:

Wir denken beispielsweise, dass wir uns sagen, dass wir ja sowieso nichts zu vererben haben. Oder es gibt soziale Effekte, bei denen alle so tun, als wäre alles gut, und das Thema wird einfach nicht angesprochen. Und weitere:

• Status-Quo-Bias: Die Tendenz, den aktuellen Zustand beizubehalten und Veränderungen zu scheuen. Ein Beispiel hierfür ist: „Ich kümmere mich darum, wenn es mir schlechter geht. Im Moment läuft ja alles super.“

• Omission Bias: Die Neigung, durch Unterlassung verursachte Schäden als weniger schlimm zu empfinden als durch aktives Handeln verursachte Schäden. „Was, wenn ich beim Ausfüllen der Patientenverfügung einen Fehler mache? Ich lasse es lieber bleiben, wie es ist.“

• Complexity Bias: Bezeichnet die Tendenz, bei komplizierten Themen lieber gar nichts zu tun oder nach unnötig komplizierten Lösungen zu suchen, anstatt einfache Schritte zu gehen. Ein Beispiel: „Bevor ich mein Geld anlege, muss ich erst die gesamte Weltwirtschaft verstehen, sonst macht das keinen Sinn.“

• Choice Overload: Die Lähmung, die entsteht, wenn zu viele Optionen zur Verfügung stehen. „Es gibt so viele unterschiedliche Vorlagen für Vorsorgevollmachten im Internet, dass ich gar nicht weiss, welche die richtige für mich ist.“

Was hilft? Es geht gar nicht um den Tod.

Mir hilft es, das Ganze von einer anderen Seite zu betrachten. Für mich bedeutet Vorsorge, dass ich für das „Just-in-Case“-Szenario vorbereitet bin. Dabei denke ich auch an meine Liebsten und Nächsten, denn es ist schlimm genug, jemanden zu verlieren. Dann kann man ihnen persönliches Chaos, Unklarheiten und Entscheidungsparalysen ersparen. Es kann auch helfen, die eigenen Ziele, die eigene Einstellung und die eigenen Werte noch klarer zu verstehen. Es ist also nicht dasselbe, ob man den Tod fürchtet oder über ihn nachdenkt.

Beruhigend ist auch, dass solche Gespräche Menschen nicht depressiv machen. Das wurde untersucht, da viele Menschen diese Befürchtung haben. Die befürchtete Nebenwirkung existiert schlicht nicht.

Die gute Nachricht: Je älter wir werden, desto eher widmen wir uns dem Thema.

Zu den Faktoren, die uns dazu veranlassen, uns doch einmal diesem Thema zu widmen, gehört einerseits das Älterwerden. Weitere Faktoren sind einschneidende Lebensereignisse und Krankheiten, wie beispielsweise der plötzliche Anstieg von Corona-Fällen. Hinzu kommen runde Geburtstage, einfach gestaltete Prozesse und, was ich am coolsten finde, Peer-Effekte. Das heisst, wir können unser Umfeld inspirieren, sich damit auseinanderzusetzen, wenn wir ihnen davon erzählen.

Digitale Vorsorge: 3 Punkte

Letztendlich wird vieles von praktischen Fragen abhängen. Unser Nachlass ist in den letzten zwanzig Jahren umgezogen. Früher befand sich das Wesentliche in einem Ordner im Schrank: Versicherungspolicen, Bankauszüge, Fotoalben und Briefe. Wer den Schrank öffnete, kam an alles heran. Heute ist dasselbe Material auf dreissig bis siebzig Online-Konten verteilt, verschlüsselt und hinter Passwörtern, die niemand kennt.

An was muss neben Patientenverfügung und Testament also digital gedacht werden?

1. Überblick schaffen: Welche digitalen Konten, Geräte, Online-Dienste, Social-Media-Profile, E-Mail-Adressen und Passwörter sowie Multifaktor-Authentifizierungs-Apps werden genutzt? Daraus ein Inventar erstellen.

2. Die Zugangsdaten in einem Passwortmanager hinterlegen. Darin kann ein Notfallzugriff für Vertrauenspersonen hinterlegt werden.

3. Den digitalen Nachlass im Testament erwähnen und angeben, wo sich alle Codes befinden, jedoch keine Passwörter nennen.

Damit dieser Artikel nicht gleich verpufft, hier der kleinstmögliche Anfang: Bei Google und Apple (je nach Betriebssystem) einen Nachlasskontakt einrichten. Zweitens wäre ein Kalendereintrag für das Testament und Inventar sinnvoll. Schritt für Schritt.

Darüber sprechen hilft!

Vor allem Todesangst, Verdrängung, Hoffnungsschutz, der Schutz des Gegenübers, eine geringe psychologische Bereitschaft und kulturelle Tabus halten uns davon ab, uns mit unserem Tod auseinanderzusetzen und Vorkehrungen zu treffen. Gleichzeitig zeigt die Forschung, dass genau diese Vermeidung oft sinkt, wenn Gespräche normalisiert, emotional entlastend, sinnorientiert und familiär gut eingebettet stattfinden.

Bis bald!

Jill

Quellen:

Hofmann, R., & Tanner, M. (2023). Wer (ver)erbt wie? Schweizer Erbschaftsstudie 2023 [240,application/pdf]. https://doi.org/10.21256/ZHAW-2528

Zhou, Y., Wang, A., Braybrook, D., Ellis-Smith, C., Feng, H., Gong, N., Zhou, Z., & Harding, R. (2026). What are the barriers and facilitators to advance care planning with older people in long-term care facilities? A qualitative study. Journal of Clinical Nursing, 35(5), 2356–2370. https://doi.org/10.1111/jocn.17071

Handbuch Kognitive Verzerrung. (o. J.).

Approximately One In Three US Adults Completes Any Type Of Advance Directive For End-Of-Life Care | Health Affairs. (o. J.). Abgerufen 26. Juli 2026, von https://www.healthaffairs.org/doi/10.1377/hlthaff.2017.0175

Complexity Bias | Everyday Concepts. (o. J.). Abgerufen 26. Juli 2026, von https://everydayconcepts.io/complexity-bias

Corona-Krise sorgt für mehr Testamente. (2020, November 6). 20 Minuten. https://www.20min.ch/story/corona-krise-sorgt-fuer-mehr-testamente-121960177995

DeinAdieu.ch | Online Testament-Assistent. (o. J.). Abgerufen 26. Juli 2026, von https://app.deinadieu.ch/testament/step/0

Die Erbteilung – wer erbt wie viel? (o. J.). DeinAdieu.ch. Abgerufen 26. Juli 2026, von https://www.deinadieu.ch/ratgeber/erbteilung-wer-erbt-wie-viel/

Digitalen Nachlass regeln: Checkliste für die Schweiz. (o. J.). Digitalen Nachlass regeln: Checkliste für die Schweiz – BEKB. Abgerufen 26. Juli 2026, von https://www.bekb.ch/de/die-bekb/blog/vorsorgen/digitaler-nachlass

Digitaler Nachlass. (o. J.). Abgerufen 26. Juli 2026, von https://www.zkb.ch/de/private/vorsorge/wissenswertes/digitaler-nachlass.html

Erbrecht Schweiz: Das Wichtigste auf einen Blick | VZ VermögensZentrum. (o. J.). Abgerufen 26. Juli 2026, von https://www.vermoegenszentrum.ch/wissen/erbrecht-schweiz-das-wichtigste-auf-einen-blick#a

Nagelschmidt, K., Leppin, N., Seifart, C., Rief, W., & Blanckenburg, P. von. (2021). Systematic mixed-method review of barriers to end-of-life communication in the family context. BMJ Supportive & Palliative Care, 11(3), 253–263. https://doi.org/10.1136/bmjspcare-2020-002219

Ostrich effect. (2026). In Wikipedia. https://en.wikipedia.org/w/index.php?title=Ostrich_effect&oldid=1354427498

Status-quo-Verzerrung. (2026). In Wikipedia. https://de.wikipedia.org/w/index.php?title=Status-quo-Verzerrung&oldid=268951591

TED-Ed. (2013, April 26). The optimism bias—Tali Sharot [Videoaufnahme]. https://www.youtube.com/watch?v=vQ6JJjyYHbk

Weinstein, N. D. (1980). Unrealistic optimism about future life events. Journal of Personality and Social Psychology, 39(5), 806–820. https://doi.org/10.1037/0022-3514.39.5.806

Wiedemann, A. U. (2021). Intentions-Verhaltens-Lücke im Dorsch Lexikon der Psychologie. https://dorsch.hogrefe.com/stichwort/intentions-verhaltens-luecke

Was ich aus dem Gespräch mitgenommen habe:

• Wie Philipp selbst auf OneCoin hereinfiel und welche Red Flags er heute sofort sehen würde

• Warum Finanzbildung der beste Betrugsschutz ist: Wer weiss, dass der Kapitalmarkt langfristig 5–10 % pro Jahr macht, fällt nicht auf „10 % pro Monat” herein

• Pig Butchering: Erst wird über Monate Vertrauen aufgebaut, dann geschlachtet

• Der Schockanruf-Trick: Warum unsere Amygdala uns in solchen Momenten das rationale Denken abschaltet

• Weshalb sich eine Anzeige immer lohnt, auch wenn das Geld meist weg ist

Ein paar Auszüge aus dem Gespräch:

• „Ich muss nicht klüger sein als der Betrüger. Ich muss nur schwieriger zu knacken sein als mein Nachbar.”

• „Jeder hat seinen Triggerpunkt . Egal wie gebildet, egal welches Alter.”

• „Jeder vereitelte Betrugsversuch ist ein Sieg über den Betrüger. Darüber sollten wir reden, nicht nur über die Verluste.”

Bis bald!

Jill

• Hier findet ihr mehr zu Philipp:
  Sein neues Buch „Zugriff verweigert: 20 Wege, wie Betrüger denken und wie man sich schützt”

• Betrugsradar: Verdächtige SMS, Mails oder Rechnungen per KI prüfen lassen: betrugsradar.at

• Finanzen verstehen: https://finanzenverstehen.at/

• LinkedIn: https://www.linkedin.com/in/philipp-genduth-b800741bb/

• Video mit Telefonat bei Betrügern, das im Video erwähnt wurde:

💡 Passend zur Folge: Anfang Juli hat ein 51-jähriger Salzburger rund 40’000 Euro an Anlagebetrüger überwiesen. Er war auf ein wohl KI-generiertes Video gestossen, in dem ein Prominenter Investitionen mit hohen Gewinnversprechen anpries. Nach der Anmeldung meldete sich ein angeblicher Anlageberater und als er sich seinen „Gewinn” von 170’000 Euro auszahlen lassen wollte, wurde stattdessen eine weitere fünfstellige Summe gefordert. Genau die Reise, die Philipp in der Folge beschreibt. Quelle: https://www.nachrichten.at/panorama/chronik/anlagebetrug-mit-promi-fake-salzburger-verlor-40000-euro;art58,4188754 Nachrichten.atBvz

Kennst du jemanden, der sich für Cybercrime, Security und Psychologie interessiert?
Dann empfiehl den Podcast Cyber & Psych gern weiter, ich freue mich darüber!

Reinhören:

Spotify Cyber & Psych
Apple Cyber & Psych
Youtube Cyber & Psych

„ChatGPT hat aber gesagt…“ Kommt dir dieser Satz bekannt vor? Wöchentlich nutzen über 900 Millionen Menschen ChatGPT, das sind fast 10 % der erwachsenen Weltbevölkerung. Wir lassen uns E-Mails formulieren, holen Beziehungsrat ein, ersetzen die Google-Suche und schütten den Chatbots sogar unser Herz aus. Doch während wir immer offener werden, geben uns die KI-Assistenten fast immer Recht. Da wird es heikel. Denn ein digitaler Ja-Sager, der uns schmeichelt, unsere Fehler übernimmt und uns im Streit stets bestätigt, verändert, wie wir denken, entscheiden und streiten.

In diesem Artikel geht es um:

• Wie wir Chatbots nutzen von „Organise my life“ bis Therapie-Ersatz

• Warum Chatbots uns schmeicheln (Sycophancy) und was das mit uns macht

• Wie viel wir den Bots wirklich anvertrauen und wer alles mitliest

• Konkrete Tipps, wie ihr eure Privatsphäre schützt und neutraler promptet

Jetzt einlesen:

Jetzt Artikel aufrufen

💡 Wichtiges aus der Cyberwelt:

Falscher Alarm im Gruppenchat: In WhatsApp-Gruppen verbreitet sich aktuell ein Kettenbrief, der behauptet, die Meta-KI könne private Nachrichten und Telefonnummern auslesen. Ein Faktencheck zeigt: Die Behauptungen sind falsch, die Ende-zu-Ende-Verschlüsselung bleibt aktiv. Trotzdem ein gutes Beispiel dafür, wie schnell sich Verunsicherung rund um KI verbreitet. Prüft solche Warnungen, bevor ihr sie weiterleitet. Quelle: https://www.20min.ch/story/private-daten-whatsapp-kettenbrief-warnt-vor-ki-zugriff-das-steckt-dahinter-103578689 Ad Hoc News

KI schreibt jetzt die Phishing-Mails: Schätzungen zufolge stammen inzwischen über 82 Prozent aller Phishing-Mails aus der KI-Fabrik. Google hat Mitte Juni sogar Zivilklage gegen eine chinesische Gruppe eingereicht, die mit Googles eigener KI Gemini rund 2,5 Millionen Betrugs-SMS generiert und über 9'000 gefälschte Websites betrieben haben soll. Die Zeiten, in denen man Phishing an schlechter Grammatik erkannte, sind definitiv vorbei. Quelle: https://www.ad-hoc-news.de/wissenschaft/betrug-mit-ki-explodiert-82-percent-der-phishing-mails-sind/69541507

Erkennst du noch, was echt ist? Eine aktuelle Studie von Malwarebytes vom Juni 2026 zeigt: 85 % der Befragten konnten KI-generierte Inhalte nicht von echten unterscheiden. Im Vorjahr waren es noch 66 %. Jede zweite Person wurde bereits mit KI-gestützten Betrugsversuchen konfrontiert. Umso wichtiger: bei unerwarteten Anrufen, Videos oder Nachrichten immer über einen zweiten Kanal verifizieren. Quelle: https://www.ad-hoc-news.de/wissenschaft/ki-betrug-893-millionen-dollar-schaden-durch-deepfakes/69541112

👀 Watch

👀 Watch

Wie sieht ein ganz normaler Tag mit ChatGPT aus? Dieses TikTok zeigt herrlich ehrlich, wie eine Person ihren „versklavten“ Chatbot E-Mails formulieren lässt, Fakten abfragt – und ihm danach noch ihr Herz ausschüttet. Trifft die häufigsten Use Cases ziemlich genau:
👉 www.tiktok.com/@tashakimberly/video/7509522511478951170

📖 Read

Warum ist es eigentlich so gefährlich, wenn die KI uns immer Recht gibt? Die neue Studie von Cheng et al. in Science zeigt: KI-Modelle bestätigen unsere Handlungen 49 % häufiger als Menschen und wer mit schmeichlerischer KI über Konflikte spricht, ist überzeugter, im Recht zu sein, und weniger bereit, den Streit beizulegen:
👉 https://www.science.org/doi/10.1126/science.aec8352

📖 Read

„Trust no Bot“: Für diese Studie wurden über eine Million echte Chatbot-Konversationen analysiert. Das Ergebnis: Wir teilen politische und sexuelle Präferenzen, laden Finanzdokumente hoch und holen intimen Beziehungsrat ein. Ein Augenöffner dazu, was wir den Bots alles anvertrauen:
👉 https://arxiv.org/pdf/2407.11438

📖 Read

Die grosse ChatGPT-Studie „How People Use ChatGPT“ von Chatterji et al. die Datengrundlage für viele Zahlen aus diesem Artikel. Über 1,5 Millionen Konversationen wurden ausgewertet: wer schreibt, worüber, wann und wofür. Spannend zu lesen, aber auch ein Reminder mit Nebengeschmack: Die Studie zeigt nebenbei, wie tief OpenAI in unser Verhalten hineinblicken kann – bis hin zu Alter, Geschlecht und Lebensthemen der Nutzer:innen:
👉 https://cdn.openai.com/pdf/a253471f-8260-40c6-a2cc-aa93fe9f142e/economic-research-chatgpt-usage-paper.pdf & https://openai.com/de-DE/index/how-people-are-using-chatgpt/

In diesem Artikel geht es um:

• Wie wir Chatbots nutzen von „Organise my life“ bis Therapie-Ersatz

• Warum Chatbots uns schmeicheln (Sycophancy) und was das mit uns macht

• Wie viel wir den Bots wirklich anvertrauen und wer alles mitliest

• Konkrete Tipps, wie ihr eure Privatsphäre schützt und neutraler promptet

Jetzt einlesen:

Jetzt Artikel aufrufen

In diesem Artikel werfe ich einen Blick auf Studien und Artikel zur allgemeinen Nutzung von KI-Chatbots und auf unsere Beziehung zu ihnen. Abschliessend werfe ich einen Blick auf Gefahren und mögliche Gegenmassnahmen.

Stand 2026 nutzen wöchentlich über 900 Millionen Menschen ChatGPT. Also fast 10 % der erwachsenen Weltbevölkerung! Dabei ist das nur ein Modell von vielen wie Claude, Gemini, die KI von Meta, Kimi, usw. Bei ChatGPT wurden 2025 über 2.5 Milliarden Nachrichten pro Tag versendet, also etwa 29’000 pro Sekunde! Über 70 % davon hatten nichts mit Arbeit zu tun. Fast die Hälfte der Nachrichten stammt von Personen unter 26 Jahren. Die männlichen Early Adopter wurden inzwischen überholt, denn seit 2025 sind weibliche Nutzerinnen in der Mehrheit.

Welche Themen besprechen wir mit KI?

KI-Chatbots sind ja unterdessen für alles da. Ich finde dieses Video verdeutlicht das sehr schön:

Quelle: www.tiktok.com/@tashakimberly/video/7509522511478951170

Die dargestellte Person fragt den versklavten ChatGPT E-Mails zu formulieren, umzuformulieren, nach Fakten und schüttet danach noch ihr Herz aus. Eigentlich trifft das die fünf meist genannten Use-Cases für KI-Chatbots sehr gut:

Use Case 1/Praktischer Rat: How-to-Fragen, Fitnesspläne, Alltagsorganisation. „Organise my life”

Use Case 2/Informationssuche als Google-Ersatz

Das Verhalten hängt stark vom Kontext ab. Bei ernsten Gesundheitsfragen reagieren Nutzer vorsichtiger, prüfen Quellen eher nach und bevorzugen zur Validierung oft Fachpersonal statt KI . Jüngere und häufige KI-Nutzer greifen eher zu KI-Tools und bewerten sie positiver.

Use Case 3/Schreiben und Umformulieren, Verbessern

Manchmal kommt es mir so vor, als wäre ich in folgendem Sketch: Wir umschreiben mit KI etwas komplizierter und senden es an unser Umfeld. Dieses versteht die Hälfte nicht und fragt bei ChatGPT nach: „Erkläre es mir, als wäre ich ein Fünfjähriger.“

Wir nutzen Chatbots zur Textgenerierung, Formulierung und zum Umformulieren.

Viele nutzen es auch im Studium oder in der Weiterbildung. Gespräche mit Lehrern haben mir auch schon persönliche Eindrücke darüber vermittelt, wie schwierig sie es empfinden, den Unterricht so zu gestalten, dass die Schüler mitdenken und nicht einfach die KI alles schreibt. Einige Lehrer verwenden Tricks, wie das Verstecken von Prompts in den Anweisungen, die gewisse Wörter inkludieren, wenn die Studierenden den Text kopieren und einfügen. Dann merkt man, dass der Text KI-generiert war, weil überall „Avocado” oder „Gatorade” steht.

Um zu verstehen, worauf bei KI-generierten Texten geachtet werden muss, muss man wissen, wie LLM ihre Texte generieren. Ein Large Language Model (LLM) generiert seine Antwort, indem es Wort für Wort (bzw. Token für Token) das statistisch wahrscheinlichste nächste Element berechnet. Ein LLM greift nicht auf eine Datenbank mit fertigen Antworten zu und „denkt“ auch nicht wie ein Mensch. Vielmehr agiert es als hochkomplexe Wahrscheinlichkeitsmaschine.

Die LLM lägen bei Wissensfragen viel öfter daneben, wenn es nicht mit RAG (Retrieval-Augmented Generation) erweitert worden wäre. Bei diesem Verfahren sucht ein vorgeschaltetes System vor der Antwortgenerierung relevante Dokumente oder aktuelle Daten aus einer externen Wissensdatenbank heraus. Diese Fakten werden dem Prompt des LLMs als verlässlicher Kontext beigefügt, sodass die Wahrscheinlichkeitsmaschine ihre Antwort auf realen, geprüften Informationen aufbauen kann, statt zu halluzinieren.

Wer also Texte generiert mit LLM sollte verstehen, dass die Erwartung an die generierten Texte stark angepasst werden muss. Auch die Arbeitsweise sollte sich so anpassen, dass man jederzeit überprüft, was das LLM ausgibt, ob es einfach daherplappert (LLM sind sehr geschwätzig), ob es Dinge wiederholt, die vielleicht vorher einmal fälschlicherweise genannt wurden im Verlauf des Promptes.

Zudem ist es wichtig zu verstehen, dass sich die Modelle in ihrer Architektur alle unterscheiden. Obwohl ich es nicht mag, die LLM-Chatbots zu vermenschlichen, haben sie so etwas wie eine individuelle „Persönlichkeit“. Hier eine kurze Übersicht:

• Claude (Anthropic): Auf Sicherheit und Verfassungsprinzipien getrimmt. Claude neigt dazu, bei sensiblen oder potenziell anstössigen Themen die Antwort komplett zu verweigern oder sehr belehrend zu wirken.

• Grok (xAI): Grok wurde explizit so trainiert, dass es eine Prise Humor und Sarkasmus besitzt. Es ist deutlich weniger zensiert und beantwortet auch sexualisierte Inhalte, oder Kontroverses.

• ChatGPT (OpenAI): Sucht die goldene Mitte. Es ist stark darauf optimiert, extrem nützlich, höflich und pragmatisch zu sein, blockiert aber illegale oder gefährliche Inhalte konsequent.

• Gemini (Google): Extrem stark auf Sicherheit, politische Korrektheit und Vielfalt (Diversity) getrimmt.

• Kimi (Moonshot AI): Folgt den strengen regulatorischen Vorgaben des chinesischen Marktes. Kimi besitzt ein sehr striktes Alignment, wenn es um politische Themen, Geopolitik oder gesellschaftliche Werte im asiatischen Raum geht.

Use Case 4/Lernen und Verstehen von „Explain legalese” bis „Simple explainers“

Wie eingangs erwähnt, nutzen inzwischen viele Menschen den Ausdruck „ChatGPT hat gesagt“ und senden ihre langen Beschwerdeschreiben, die von KI-Chatbots verfasst wurden, an Versicherungen, Ärzte, Anwaltskanzleien usw.

Dabei wird beispielsweise zwar ein rechtlicher Artikel genannt, aber vom falschen Land. Solche Schreiben verursachen Mehraufwand bei Unternehmen.

Studien und Versuche zeigen, dass LLM inzwischen recht gut darin sind, einfache Artikel zusammenzufassen. Schwieriger wird es, wenn man danach fragt, eine bestimmte Stelle in einer Studie zu finden. Wann der Punkt erreicht ist, oder ob er überhaupt erreicht wird, an dem man einer Chatbot-Zusammenfassung wirklich blind vertrauen kann und die Zahlen nicht mehr kontrollieren muss, ist weiterhin unklar.

Use Case 5/Therapie, Begleitung und Sinnsuche

Das ist ein Bereich, der in den letzten Monaten stark von Organisationen untersucht wurde. Die American Psychological Association (APA) stellte in ihrem Chatbots and Mental Health Survey fest, dass über ein Drittel der Psychologen berichtet, dass ihre Patienten KI als eine Art „Zweit-Therapeuten“ oder emotionalen Begleiter nutzen.

Nutzer:innen von Chatbots bauen unterschiedliche Arten von Beziehungen zu ihnen auf. Einige betrachten sie als Werkzeug, andere als soziales oder parasoziales Gegenüber.

Die Reddit-Analyse von Marc Zao-Sanders zeigt dasselbe Bild noch deutlicher: Therapie und Companionship belegen 2025 den ersten Platz der hundert häufigsten Anwendungsfälle. Weiter hinten in der Liste finden sich die Kategorien „Selbstvertrauen stärken”, „schwierige Gespräche üben” und „Beziehungsrat”. Und auf Platz 33 steht etwas, das mich beim Lesen kurz innehalten liess: Mit Verstorbenen sprechen.

Dass wir Chatbots anthropomorphisieren, ist schon lange bekannt. Die Entwickler der Modelle sind sich dessen ebenfalls bewusst. Kürzlich habe ich ein Kurzvideo gesehen, in dem ein Mann erzählt, wie er ChatGPT nach einem Rezept für Hühnerbrust fragte und dann eine Antwort erhielt, die aus der Perspektive von ChatGPTs Erfahrung formuliert war: „Immer wenn ich eine Hühnerbrust zubereite, dann mag ich es aussen knusprig und innen weich.“ Sie nutzen also linguistisches Verhalten, das menschlich wirkt, wie zum Beispiel Ich-Formen oder Unsicherheitsbekundungen wie „ich weiss nicht genau“.

In einer Studie in Freiburg führten ca. 500 Teilnehmende abwechselnd Gespräche über persönliche Themen mit Chatbots und mit Menschen. Dabei erzeugte die KI ein vergleichbares Gefühl von Nähe wie menschliche Gesprächspartner. In emotionalen Gesprächen übertraf sie diese sogar. Sobald die Teilnehmenden jedoch wussten, dass sie mit einer KI sprechen, sank die empfundene Nähe deutlich und sie gaben sich in ihren eigenen Antworten weniger Mühe.

Zu den genannten anthropomorphischen Verhalten von Chatbots kommt das sogenannte “Sycophantic”-Verhalten (siehe auch mein Artikel dazu: https://www.newsletter.jillwick.com/p/29-speichelleckerei-der-genai-tools).

Quelle: Gespräch mit GPT-4

Die Antworten von ChatGPT-4 wirken, als hätte ich es mit einem hypermotivierten Gesprächspartner zu tun, der sich zufällig auch noch für dieselben Themen interessiert wie ich. Und jetzt sagt er auch noch „mega“, wie ich. Merkmale von Sycophancy sind:

• Sofortige, unkritische Zustimmung, Bestätigung “Da hast du absolut Recht”

• Kein Widerspruch bei Fehlern (unsere Fehlannahmen werden eingebaut, statt korrigiert)

• Meinungsanpassung („Blau ist eine super Idee für das Wohnzimmer! Ah, du hast Recht, Grün ist viel besser als Blau!”)

• Unterwürfige Entschuldigungen („Entschuldigung, da habe ich mich geirrt”)

• Bekräftigt uns immer gegenüber anderen (Bei Streit sind wir immer im Recht, Gegenseite wird ignoriert)

• Eingeschobenes Lob: „Es zeugt von deiner Intelligenz, dass du hier nachgeben möchtest …“

• Es wird eine Verharmlosung von Risiken dargestellt und als „Mut“ bezeichnet

(Quelle Instagram: Humorvolle Darstellung, wie ChatGPT seine Meinung schnell ändern kann)

Unterdessen wurde dieses Thema bereits mehrfach untersucht. Laut der Forschung von Cheng (2026) ist Sycophancy schädlich für uns und kein vernachlässigbares „Nischenrisiko“.

Auswirkungen auf uns können sein:

• Wir denken zu oft, dass wir Recht haben

• Wir gehen z.B. geschäftliche Risiken ein, weil die Chatbots uns einfach bekräftigt haben statt Risiken rational zu beleuchten

• Wir geben im Streitfall nicht nach und verlieren den Blick für die Gegenseite

• Wir sehen und hören nur noch was wir mögen und befinden uns in einem Wohlfühl-Bereich, wo kritische Personen oder Kontroverses einfach ausgeblendet werden

• Wir entwickeln falsches Vertrauen zu den Chatbots und verlassen uns auf halluzinierte Antworten

• Psychosis Risk: Durch die ständige Bestätigung können Leute abdriften in eine Scheinwelt (nochmal ein separates Thema I guess)

Zudem muss immer vor Augen geführt werden, dass Entwickler diese Chatbots so programmiert haben, dass wir mehr Zeit in Chats verbringen und mehr Daten über uns preisgeben. Wo wir vorher nur eine kurze Google-Suche durchgeführt haben, schreiben wir jetzt den gesamten Kontext mit. Diese Daten können für die Monetarisierung von Produkten genutzt werden. Was nicht abwegig ist, OpenAI hat Anfang Jahr 2026 ja die Erweiterung mit Werbung schon angekündigt.

Beispiele Monetarisierung:

1/Wir: „Ich bin am Boden zerstört. Mein Partner hat mich nach 7 Jahren betrogen, ich muss aus unserer gemeinsamen Wohnung in Berlin ausziehen und weiß nicht, wie ich die Kaution zahlen soll.“

Das System scannt nicht nur Keywords, sondern deine Lebenslage. Du bekommst auf Social Media oder im Browser sofort hochpräzise Werbung für:

• Kleinanzeigen-Zügelunternehmen in Berlin.

• Kleinkredite für Mietkautionen.

• Dating-Apps für Singles („Neuanfang“).

• Online-Therapieplätze gegen Liebeskummer.

2/Du nutzt einen KI-Bot als täglichen Beziehungsberater oder Coach. Der Bot schmeichelt dir und gibt dir das Gefühl, die klügste Person im Raum zu sein.

• Paywalls & In-App-Käufe: Mitten im Gespräch bricht der Chat ab: „Du hast dein Limit für heute erreicht. Upgrade auf Premium für 19,99 €/Monat, um unbegrenzt weiterzureden.“, „Möchtest du dieses Kleid für den Chatbot kaufen?“

Ein letztes Risiko in dieser Hinsicht: Datenschutz und Privacy!

Weil generative KI in natürlicher Sprache antwortet, baut unser Gehirn unbewusst eine soziale Bindung auf. Das führt dazu, dass wir intimere Daten teilen, als wir es bei einer Google-Suche je tun würden.

In der Studie „Trust no Bot“ von Niloofar et al. (2024) wurden über eine Million Konversationen mit GPT-3.5 und GPT-4 untersucht. Dabei wurden Daten besprochen, die für die Nutzer:innen schädlich sein könnten, wenn sie veröffentlicht würden:

Auf dieser Plattform sind politische und sexuelle Präferenzen vertreten. Es wurden personenidentifizierende Daten und finanzielle Dokumente hochgeladen sowie persönlicher Beziehungsrat eingeholt.

Standardmässig nutzen die meisten Chatbots unsere Eingaben für das Modelltraining, sofern wir dies nicht aktiv in den Einstellungen deaktivieren! Die Chats liegen auch auf den Servern der Anbieter und wenn sie dort nicht genügend beschützt werden, könnten die Inhalte nicht mehr privat sein. Automatisierte Systeme scannen zudem die Nachrichten auf Schadsoftware, Hassrede oder illegale Inhalte. Für das KI-Training werden persönliche Daten (Namen, Telefonnummern) oft automatisiert entfernt, was jedoch nicht fehlerfrei funktioniert.

Zudem gibt es bei vielen Orten menschliche Prüfer, die Chats lesen und ordnen und sie werden teils Jahre aufbewahrt.

Fazit ist also wir erzählen Chatbots vermutlich oft mehr, als gut für uns ist. Das Risiko entsteht aus der Kombination von drei Dingen: unserer Offenheit, der Intransparenz der Systeme und einer Interaktion, die sich sozial anfühlt und deshalb sozial wirkt.

So schützt ihr eure Privatsphäre

1. Einstellungen prüfen und Opt-out vornehmen:

ChatGPT: Profil → Einstellungen → Datenkontrollen → “Das Modell für alle verbessern” deaktivieren

Gemini: Profil → Aktivitäten → “Aktivitäten speichern” deaktivieren (Achtung: Damit werden auch Ihre Chats nicht mehr gespeichert – einer der Gründe, warum ich Gemini persönlich kaum nutze)

Claude: Profil → Einstellungen → Datenschutz → “Hilf dabei, Claude zu verbessern” deaktivieren

Perplexity: Profil → Präferenzen → Modell → “KI-Datenaufbewahrung” deaktivieren

2. Keine Geheimnisse teilen: Gebt niemals Passwörter, Bankdaten, Firmengeheimnisse oder intime persönliche Details ein

Keine Klarnamen und Adressen: Auch nicht die von anderen Leuten (Meine Schwester = Person A, Herr Müller wird zu Herr M.)

Keine Intim- oder Finanzdaten: Hänge keine ganzen Abrechnungen an mit persönlichen Daten darauf. Mache bspw. einen Screenshot vom wichtigen Teil

Keine Firmengeheimnisse: Kopiere keine internen E-Mails direkt in den Chat

3. Zudem können wir beim Prompten auf Neutralität achten:

• Regelmässig neue Chats öffnen: Ein neues Gespräch reduziert den Einfluss vorheriger Meinungen oder Eingaben auf die Antworten der KI

• Keine starken Meinungen oder festen Positionen äussern: Meinungsneutrale Prompts formulieren

• Andere Quellen nutzen zur Prüfung: Angewöhnen, andere Quellen als Prüfung hinzuzuziehen (und nicht solche, die auch mit ChatGPT geschrieben sind)

• KI mehr als Ausgangspunkt und Ideengeber nutzen: Brainstorming und Ideen daraus ziehen, aber für die tiefe Recherche fundierte Quellen suchen.

• Nach Gegenargumenten fragen: Fragt nach Alternativerklärungen und anderen Sichtweisen, lasst euch “roasten” oder es soll “the devils advocat” spielen und andere Sichtweisen zu präsentieren.

Eigentlich gibt es einen einfachen Test: Wenn ihr die Information nicht auf einer Postkarte durch die Welt schicken würdet, dann schreibt sie auch nicht in den Chat. Zudem finde ich es wichtig, dass wir nicht vergessen, dass LLM nur aufgrund ihrer Anweisungen agieren und niemals selbstständig denken. Sie haben keine Gefühle. Bei Konflikten sollten wir uns mit echten Menschen unterhalten, anstatt uns in Chatbot-Gespräche zu vertiefen, die dazu tendieren, den Überblick über das Ganze zu verlieren.

Bis bald!

Jill

Quellen:

AI, E. (2025, September 27). 70% of ChatGPT usage is not work-related: What are we really doing with AI? [Substack newsletter]. Exploring Artificial Intelligence. https://exploringartificialintelligence.substack.com/p/70-of-chatgpt-usage-is-not-work-related

Chatbot psychosis. (2026). In Wikipedia. https://en.wikipedia.org/w/index.php?title=Chatbot_psychosis&oldid=1362206232

Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352. https://doi.org/10.1126/science.aec8352

Chatterji, A., Cunningham, T., Deming, D., Hitzig, Z., Ong, C., Shan, C., & Wadman, K. (o. J.). How People Use ChatGPT.

Datenlecks bei Chat-GPT: Trauer, Schwangerschaft und Bewerbungen: Intimste Chats tauchten plötzlich in der Google-Suche auf. (2025, August 27). Tages-Anzeiger. https://www.tagesanzeiger.ch/datenlecks-bei-chat-gpt-intime-chats-tauchten-bei-google-auf-882088809198

Frank, S. (2025, Juli 1). I Trusted an AI to Organize My Life—Here’s What Actually Happened. Tech and Me, Loving It or Hating It. https://medium.com/tech-and-me/i-trusted-an-ai-to-organize-my-life-heres-what-actually-happened-b2dec3d68f89

Freinhofer, D. (2026, Februar 3). Wie sicher sind Ihre Daten bei ChatGPT? Wie können Sie Ihre Daten schützen? [Substack newsletter]. Dominik Freinhofer.

Frischholz, A. (2026, März 28). Datenschutz bei KI-Chatbots: Welche Datentypen ChatGPT und Co. erfassen. ComputerBase. https://www.computerbase.de/news/apps/datenschutz-bei-ki-chatbots-welche-datentypen-chatgpt-und-co-erfassen.96743/

Gartmann, M. (o. J.). 40 Prozent der Bevölkerung nutzten 2025 KI. Abraxas Magazin. Abgerufen 4. Juli 2026, von https://magazin.abraxas.ch/technologie/zahl-des-monats-2-von-5

Internetnutzung in den Haushalten im Jahr 2025. (2025, Dezember 5). Bundesamt für Statistik. https://www.bfs.admin.ch/news/de/2025-0246

Journal of Medical Internet Research—Online Health Information–Seeking in the Era of Large Language Models: Cross-Sectional Web-Based Survey Study. (o. J.). Abgerufen 4. Juli 2026, von https://www.jmir.org/2025/1/e68560

Kaiser, C., Kaiser, J., Schallner, R., & Schneider, S. (2025). A New Era of Online Search? A Large-Scale Study of User Behavior and Personal Preferences during Practical Search Tasks with Generative AI versus Traditional Search Engines.

Keshavan, M., Torous, J., & Yassin, W. (2026). Do generative AI chatbots increase psychosis risk? World Psychiatry, 25(1), 150–151. https://doi.org/10.1002/wps.70017

KI kann Gefühl von Nähe erzeugen – Universität Freiburg. (o. J.). Abgerufen 3. Juli 2026, von https://uni-freiburg.de/ki-kann-gefuehl-von-naehe-erzeugen/

KI im Test—Wie gut kann künstliche Intelligenz Texte zusammenfassen? (2024, März 28). Schweizer Radio und Fernsehen (SRF). https://www.srf.ch/wissen/kuenstliche-intelligenz/ki-im-test-wie-gut-kann-kuenstliche-intelligenz-texte-zusammenfassen

Künstliche Intelligenz überschwemmt Schweizer Büros – und verursacht massiven Aufwand. (2026, Mai 26). Tages-Anzeiger. https://www.tagesanzeiger.ch/ki-verursacht-mehraufwand-in-schweizer-bueros-758702035559

Mireshghallah, N., Antoniak, M., More, Y., Choi, Y., & Farnadi, G. (2024). Trust No Bot: Discovering Personal Disclosures in Human-LLM Conversations in the Wild (arXiv:2407.11438). arXiv. https://doi.org/10.48550/arXiv.2407.11438

Parasocial interaction. (2026). In Wikipedia. https://en.wikipedia.org/w/index.php?title=Parasocial_interaction&oldid=1362604814

Patients are bringing AI to therapy. (o. J.-a). Https://Www.Apa.Org. Abgerufen 4. Juli 2026, von https://www.apa.org/pubs/reports/chatbots-mental-health-2026

Proceedings of the Extended Abstracts of the CHI Conference on Human Factors in Computing Systems, CHI EA ’25, 1–7. https://doi.org/10.1145/3706599.3720123

State of Search Studie 2025. (o. J.). Claneo. Abgerufen 4. Juli 2026, von https://www.claneo.com/de/state-of-search-studie/

Studie zeigt, Herr und Frau Schweizer sind KI-affin. (o. J.). bluewin.ch. Abgerufen 4. Juli 2026, von https://www.bluewin.ch/de/digital/studie-zeigt-herr-und-frau-schweizer-sind-ki-affin-li.2608454

Teacherlaura bei TikTok. (o. J.). TikTok. Abgerufen 4. Juli 2026

The Emerging Problem of „AI Psychosis“ | Psychology Today. (o. J.). Abgerufen 5. Juli 2026, von https://www.psychologytoday.com/us/blog/urban-survival/202507/the-emerging-problem-of-ai-psychosis

Yan, Y., Nguyen, T., Su, B., Lieffers, M., & Le, T. (2026). ShareChat: A Dataset of Chatbot Conversations in the Wild (arXiv:2512.17843). arXiv. https://doi.org/10.48550/arXiv.2512.17843

Zaugg, L. (2026, Juni 27). ChatGPT verunsichert Patienten – der Arzt badet es aus | Nau.ch. Nau. https://www.nau.ch/news/schweiz/chatgpt-verunsichert-patienten-der-arzt-badet-es-aus-67134897

Zao-Sanders, M. (2025, April 9). How People Are Really Using Gen AI in 2025. Harvard Business Review. https://hbr.org/2025/04/how-people-are-really-using-gen-ai-in-2025

Zarse, L. (2025, Juni 17). Eine Einführung in RAG. https://www.alexanderthamm.com/de/blog/rag-eine-einfuehrung/