Vielleicht erinnern sich einige von euch noch an die Jahrtausendwende. Was würde mit den Computersystemen der Welt passieren, wenn die Jahreszahl von 1999 auf 2000 springt? Dieses technische Problem war real, und Unternehmen sowie Behörden investierten enorme Summen in dessen Behebung. Gleichzeitig entwickelte sich rund um die Jahrtausendwende eine ganz andere Dynamik: Verschiedene Leute prophezeiten den Weltuntergang, von Uriella bis zu den Sekten. Solche Warnungen erzeugen Aufmerksamkeit und Panik. Berechtigt, oder dient das nur PR-Zwecken?
In diesem Artikel werden folgende Fragen behandelt:
Wer warnt vor einer Auslöschung durch KI?
Wie realistisch ist ein Kontrollverlust durch KI?
Welche Forschung spricht für ein existenzielles KI-Risiko?
Welche Argumente sprechen dagegen?
TL/DR
Alarmismus vs. PR: Prominente KI-Forscher und Brancheninsider warnen vor einem Kontrollverlust durch sich selbstoptimierende Modelle. Gleichzeitig nutzen Tech-Konzerne diese Weltuntergangsszenarien, um Aufmerksamkeit zu erzeugen und ihre Unternehmen erhalten mehr Finanzierung.
Risiken statt Science-Fiction: Die Idee einer KI, die sich bewusst dafür entscheidet, die Menschheit auszulöschen, gilt technisch als unplausibel. Dennoch nehmen real dokumentierte Schadensfälle drastisch zu. Die grössten akuten Sorgen der Fachleute gelten Betrugsmaschen, Deepfakes, Desinformation, Machtkonzentration sowie dem Alignment-Problem (zum Beispiel unautorisierte Systemausbrüche von KI-Agenten oder verdecktes Täuschungsverhalten).
Gegenargumente & harte Grenzen: Experten wie Yann LeCun halten Weltuntergangsszenarien für stark übertrieben. KI-Systeme besitzen weder Bewusstsein noch Überlebensinstinkte, scheitern weiterhin an komplexer, langfristiger Planung. Zudem sind sie physisch zu 100 % auf menschliche Infrastruktur (Strom, Hardware, Rechenzentren) angewiesen. Auch in der Praxis führen sie nicht automatisch zu höherer Produktivität.
Fazit: Künstliche Intelligenz ist kein übermächtiges Wesen, sondern ein mächtiges, jedoch fehleranfälliges Werkzeug. Wir sollten bei dessen Einsatz strikte Sicherheitsstandards, Ausfallsicherungen und menschliche Kontrolle einfordern.
Schlusswort: Was ich zum Abschluss mitgeben möchte und uns bei der Covid-Pandemie schön gezeigt wurde. Wer Angst um sein Leben hat, akzeptiert viel zu schnell harte Verbote, totale Überwachung und den Verlust seiner Freiheit, weil er glaubt, es gäbe keinen anderen Ausweg. Wenn man den Menschen also ständig einredet, dass der Weltuntergang droht, müssen wir darauf achten, nicht auf diesen Denkfehler hineinzufallen und das falsche zu akzeptieren.
Jetzt einlesen: Zum Artikel
💡 Wichtiges aus der Cyberwelt
KI-Chefs fordern gemeinsam eine Bremse: Dario Amodei hat am Samstag in einem Essay gefordert, die Entwicklung der fortschrittlichsten Modelle bewusst zu verlangsamen, und warnte, KI-Agentenschwärme könnten innerhalb eines Jahres globale Internet-Infrastruktur kapern.
KI beim Hacken: Vom Assistenten zum Orchestrator: Anthropic hat gerade einen ziemlich interessanten Threat Intelligence Report veröffentlicht. Das Unternehmen dokumentiert darin reale Fälle, in denen kriminelle und staatliche Gruppen Claude für Cyberoperationen, Betrug, Überwachung und Einflussoperationen eingesetzt haben.
Eine Sicherheitsmassnahme gegen Telefonbetrug funktioniert: Es gibt auch gute Nachrichten! In der Schweiz gingen Meldungen über betrügerische Anrufe im Namen von Behörden im Juli um mehr als 75 % zurück. Der Grund: Bei Anrufen aus dem Ausland darf nicht mehr einfach eine Schweizer Telefonnummer vorgetäuscht werden.
👂 Listen
KI-Podcast #55 Kann KI die Menschheit auslöschen?
Vielleicht erinnern sich einige von euch noch an die Jahrtausendwende. Was würde mit den Computersystemen der Welt passieren, wenn die Jahreszahl von 1999 auf 2000 springt? Dieses technische Problem war real, und Unternehmen sowie Behörden investierten enorme Summen in dessen Behebung. Gleichzeitig entwickelte sich rund um die Jahrtausendwende eine ganz…
🛠 Do
Vereinbare diese Woche ein Codewort. Mit der Familie für Schockanrufe, im Team für Zahlungen und Passwort-Resets.
📎 Check out
AI-Incident Database, echte KI-Schadensfälle zum Durchstöbern!
Mehr als 58 % der KI-Incident-Schäden wurden durch generative KI, beispielsweise in Form von Text- und Bildgeneratoren, verursacht. Beispiele für solche Incidents sind:
09.09.2026: „Mann aus Delhi soll KI genutzt haben, um obszöne Bilder einer Bekannten aus dem Studium zu erstellen und zu verbreiten“
19.08.2026: „Angeblich KI-generierte Videos, in denen sich jemand als Einwanderungsanwalt aus Miami ausgab, sollen dazu genutzt worden sein, einen Einwohner der Bronx um 4’820 Dollar zu betrügen“
10.02.2026: „OpenAI soll die RCMP nicht alarmiert haben, nachdem ChatGPT vor dem Amoklauf an einer Schule in British Columbia gewalttätige Chats gemeldet hatte“
20.12.2023: „Material über sexuellen Kindesmissbrauch belastet Bildgeneratoren“
30.01.2023: „Nicht einvernehmliche Deepfake-Pornos richteten sich gegen weibliche Content-Erstellerinnen“
17.02.2025: „KI-gestützter Phishing-Betrug nutzt Deepfake-Robocalls, um Gmail-Nutzer im Rahmen einer Kampagne zum Diebstahl von Zugangsdaten ins Visier zu nehmen“