Newsletter #39 Haben die Betrüger bald auch keine Jobs mehr?

5 neue Angriffe mit KI

Jill Wick

Sept. 08, 2025

Schön, dass du wieder da bist.

In diesem Newsletter geht es um 5 neue Angriffe mit KI die bereits heute für Betrug eingesetzt werden.

Im Blog-Artikel erfährst du:

Vibe Hacking und wie Ransomware automatisiert wird
Missbrauch von LLMs und warum sie für Phishing und synthetische Identitäten gefährlich sind
Malware für KI-Agenten: Eine neue Bedrohung für automatisierte Systeme

Lesedauer: ca. 2 Minuten

Die schöne neue Welt der KI. Wir nutzen fleissig ChatGPT und ähnliche Tools, um Texte, Bilder, Spiele und Kinderbücher generieren zu lassen. Jedoch bedient sich auch die dunkle Seite der KI-Technologien. Und das nicht gerade zögerlich.

Ironischerweise schrieb kürzlich ein Artikel, dass auch in der Welt des Cybercrimes Stellenabbau drohe.

Passend zu meinem letzten Artikel über die verschiedenen Arten von Deepfakes möchte ich heute auf fünf Angriffsmuster eingehen, die sich in den letzten Monaten mithilfe von KI gezeigt haben.

1. Missbrauch von LLMs

Cyberkriminelle nutzen KI, um perfekte Phishing-E-Mails und komplette synthetische Identitäten zu erstellen. Diese bleiben monatelang unentdeckt, da sich niemand über gefälschte Rechnungen oder Kreditkarten beschwert.

Screenshot von ChatGPT mit seinem Beispiel einer Phishing-E-Mail — Obwohl ChatGPT angab, dass es gegen die Nutzungsrichtlinien verstösst, hat es ein Beispiel generiert, keepersecurity.com

2. Vibe Hacking

Mit Tools wie „Lovable“, erstellen auch Laien durch einfache Beschreibungen funktionsfähige Malware. "Ransomware-as-a-Service" gibt's im Darknet bereits ab 400 US-Dollar.

3. KI-gesteuerte Ransomware

KI-gesteuerte Ransomware (PromptLock) macht alles selbst! Sie identifiziert automatisch Schwachstellen und erstellt individualisierte Lösegeldforderungen. Sind die Betrüger selbst bald arbeitslos?!

4. Malware für KI-Agenten

Angreifer verstecken schädliche Prompts in Captchas oder E-Mails, um KI-Agenten zu übernehmen. Diese geben dann vertrauliche Daten weiter oder fordern Nutzer zur Preisgabe von Zugangsdaten auf.

KI-Agenten, die E-Mails automatisiert lesen und verarbeiten, sind anfällig!

Versteckter Code in E-Mails kann Agenten dazu bringen auf Phishing-Mails zu klicken, guard.io

Die Tester schreiben: “Once the fake Wells Fargo login loaded, Comet treated it as legitimate. It prompted the user to enter credentials, even helping fill in the form.”