Biologische Risiken, Spionage, Cyberangriffe: Anthropic enthüllt „schädliche“ Anwendungsfälle seiner KI

Anthropic deckt „schädliche“ Anwendungsfälle seiner KI auf

Die durch die Entwicklung künstlicher Intelligenz versprochenen Perspektiven scheinen grenzenlos, ebenso wie der Wandel der gesellschaftlichen Dynamik, den dies mit sich bringen könnte. Ein Blick auf die Ergebnisse der kürzlich vom Sektorgiganten Anthropic durchgeführten Simulation genügt, die eine starke Wachstumsbeschleunigung vorhersagt, die es dem Kapital ermöglichen würde, mehr Einkommen als die Arbeit zu erzielen.

Doch die Wirtschaft ist bei Weitem nicht der einzige Bereich, den die KI revolutioniert. Dies beweist der aktuelle Bericht von Anthropic über die zahlreichen „schädlichen“ Anwendungsfälle seiner KI Claude. Eine albtraumhafte Liste, die militärische Entwicklungen, biologische Risiken, Spionage, Cyberangriffe und Betrug umfasst.

🔍 In KI investieren - Die 10 besten Aktien des Sektors (2026)

In den letzten acht Monaten hat unser Threat-Intelligence-Team Operationen identifiziert und unterbunden, bei denen böswillige Akteure versuchten, Claude für schädliche Zwecke zu missbrauchen. Dieser Bericht deckt die Aktivitäten ab, die wir zwischen Dezember 2025 und August 2026 in sieben Risikokategorien unterbunden haben: Cyber-Operationen, Einflussnahme-Operationen, Überwachung, Betrug und Täuschung, Missbrauch im biologischen Bereich sowie die Entwicklung konventioneller Waffen und Destillation.

Das Ziel dieser Transparenzoffensive? Die Offenlegung der wachsenden Risiken, die mit der Entwicklung von KI-Modellen verbunden sind, und denen die Entwickler des Sektors sowie die für den Schutz der Gesellschaft verantwortlichen Akteure „entgegentreten müssen, um sie sicherer zu machen“. Und offensichtlich besteht bereits dringender Handlungsbedarf...

Propaganda, Kriegswaffen und biologische Risiken

Die Liste der „schädlichen“ Nutzungen der KI von Anthropic scheint so lang zu sein wie die Anzahl der böswilligen Akteure, die sie nutzen. Dies betrifft „Gruppen, bei denen vermutet wird, dass sie von Staaten unterstützt werden, gewinnorientierte Kriminelle, kommerzielle Anbieter von Spionagesoftware, staatliche Propaganda-Organe und Personen mit politischen Motiven“.

Im Bereich der politischen Einflussnahme enthüllt Anthropic Überwachungs- und Propagandakampagnen, die von Ländern wie dem Iran, den Vereinigten Arabischen Emiraten und Russland durchgeführt wurden – beispielsweise eine vom russischen Staat geleitete verdeckte Operation, bei der Claude zur Erstellung pro-russischer und anti-französischer Inhalte verwendet wurde, die insbesondere über einen zentralafrikanischen Radiosender verbreitet wurden.

🗞️ Dieser Forscher kündigt bei Anthropic und glaubt, dass die KI uns alle in weniger als 5 Jahren töten könnte

Ein weiterer spezifischer Fall betrifft eine im Norden des Jemen ansässige Zelle, die Claude für den Versuch nutzte, ferngesteuerte Waffen zu entwickeln, während die Huthi-Rebellen derzeit eine Großoffensive in der Region führen.

Die besorgniserregendsten Fälle betreffen jedoch Aktivitäten im Zusammenhang mit möglichen biologischen Risiken. Dazu gehören beispielsweise Forschungen zur Übertragung oder zur Immunflucht von Viren, eine Anpassung der Vogelgrippe oder Arbeiten an Orthopoxviren, toxischen Peptiden oder Toxinen.

Und was ist mit der Verbreitung des „Vibe Hackings“, bei dem Hackerangriffe und andere Attacken an KIs delegiert werden – von der Schwachstellenerkennung bis zur Datennutzung für Erpressungen oder gezieltes Phishing? Eine Realität, die mittlerweile KI-API-Schlüssel entlarvt, um die damit verbundenen Zugänge für Angriffe zu nutzen.

In seinem Bericht stellt Anthropic jedoch klar, dass „die hier dargestellten Fälle nicht repräsentativ für den üblichen Missbrauch“ seiner KI sind. Vielmehr gehe es darum, der Öffentlichkeit „die bemerkenswertesten und neuartigsten böswilligen Aktivitäten, die bisher identifiziert wurden“, offenzulegen. Sollte uns das beruhigen?

Quelle: Anthropic