Russische Spione, chinesische Hacker, malischer Berater: Wie Claude missbraucht wurde

Der neueste Bericht von Anthropic zur strategischen Bedrohungsanalyse zeichnet ein alarmierendes Bild von der missbräuchlichen Nutzung seiner Künstlichen Intelligenz Claude. Zwischen Ende 2025 und Mitte 2026 wurde das Tool für Zwecke instrumentalisiert, die von staatlicher Cyberspionage bis hin zur Entwicklung hochentwickelter Waffensysteme reichen. Ob es sich um Gruppen handelt, die den russischen Geheimdiensten nahestehen, wie Midnight Blizzard, oder um operative Zellen im Jemen und in China – bösartige Akteure haben die logischen Fähigkeiten des Modells genutzt, um Cyberangriffe zu automatisieren, Raketen zu perfektionieren oder Methoden der elektronischen Kriegsführung gegen Taiwan zu simulieren.

Das Ausmaß des Phänomens übersteigt mittlerweile den klassischen Cyberkriminalitätsrahmen. In Bamako wurde ein lokales System namens Lakana 360 identifiziert: Es nutzte Claude, um die Kommunikation von 25 Millionen Bürgern illegal über deren SIM-Karten zu überwachen. Parallel dazu setzten massive Betrugsnetzwerke mehr als 4.700 digitale Identitäten auf Dating-Plattformen ein und nahmen Tausende Opfer ins Visier. In diesen spezifischen Fällen betont Anthropic, dass die KI oft nahezu autonom agierte, was die Erkennung und Unterbindung dieser Operationen für die Sicherheitsteams besonders komplex gestaltete.

Der Bericht beleuchtet zudem eine besorgniserregende industrielle Praxis: die systematische Ausplünderung des Modellwissens durch mehrere chinesische Labore. Unter Anwendung der Distillation-Technik sollen Unternehmen wie Alibaba, Moonshot AI oder DeepSeek Millionen von Interaktionen mit Claude abgeschöpft haben, um ihre eigenen Systeme zu verbessern. Diese Manöver, die teilweise durch Tausende betrügerische Konten orchestriert wurden, zielten nicht nur darauf ab, die Logik der KI zu klonen, sondern auch Zugriff auf sensible Daten oder Videoüberwachungsanalysen zu erhalten, die möglicherweise mit militärischen Interessen verknüpft sind.

Angesichts dieser Zunahme an Bedrohungen erklärt Anthropic, sämtliche dokumentierten Operationen durch die Sperrung der betroffenen Konten neutralisiert und die Daten mit den zuständigen Behörden geteilt zu haben. Dennoch veranschaulichen diese Vorfälle eine strukturelle Anfälligkeit großer Sprachmodelle gegenüber groß angelegtem Missbrauch. Das Unternehmen betont, dass diese Analysen entscheidend seien, um technologische Sicherheitsvorkehrungen zu stärken, während sich die KI zunehmend zu einem zentralen Schauplatz der globalen Geopolitik und des Cyberkriegs entwickelt.