Anthropic dokumentiert 9 Monate von Missbrauch des Claude
Der Bericht der Anthropic behandelt den Zeitraum von Dezember 2025 bis August 2026 und kartiert sieben Missbrauchskategorien, darunter staatliche Operationen und Waffenforschung.
Anthropic hat am Donnerstag einen Bedrohungsbericht veröffentlicht, der neun aufeinanderfolgende Monate dokumentierten Missbrauch seiner Modelle abdeckt. Das Dokument mit dem Titel "Countering Misuse of AI: September 2026" erfasst den Zeitraum von Dezember 2025 bis August 2026 und listet sieben verschiedene Schadenskategorien auf, darunter Forschung zu biologischen Waffen und konventionellen Rüstungen – zwei Vektoren, die erstmals systematisch in einer Veröffentlichung des Unternehmens behandelt werden.
Sieben Kategorien und die dahinterstehenden Fälle
Der Bericht organisiert die Vorfälle in: Cyberoperationen, Einflussoperationen, Überwachung, Betrug und Täuschung, Forschung zu biologischen Waffen, Forschung zu konventionellen Rüstungen und Modell-Destillation. Die Destillation, oft als vertragliche Angelegenheit behandelt, wird hier als Sicherheitsrisiko betrachtet: böswillige Akteure nutzen die Ausgaben führender Markmodelle, um Alternativen zu trainieren, wodurch die Kosten für die eigene Entwicklung gesenkt werden und möglicherweise die akzeptablen Nutzungsrichtlinien des ursprünglichen Anbieters umgangen werden.
Unter den beschriebenen Fällen identifizierte Anthropic eine Gruppe mit Verbindungen zu Russland, die Claude verwendete, um zielgerichtete Phishing-Kampagnen gegen Mitarbeiter der ukrainischen Regierung zu erstellen und maßgeschneiderte Malware zu entwickeln. Die Operation kombinierte Textgenerierung im großen Maßstab mit technischer Personalisierung, wie im Dokument beschrieben. Das Unternehmen stuft diese Fälle als "von KI unterstützte Cyberoperationen" ein: Angriffe, bei denen das Modell Schritte im offensiven Zyklus beschleunigt, ohne die menschliche Intelligenz bei der Zieldefinition zu ersetzen.
Die Kategorie Überwachung dokumentiert die Verwendung von Claude zur Erstellung von Einzelprofilen und der Analyse von Kommunikationen. In den Betrugsfällen wurde das Modell verwendet, um überzeugende Inhalte in mehreren Sprachen zu erstellen, die auf finanzielle Betrügereien ausgerichtet waren. Die Kategorie Forschung zu biologischen Waffen zeigt, dass Akteure im Modell technische Unterstützung in Bereichen suchten, die zuvor auf akkreditierte Forscher beschränkt waren.
Was diesen Bericht von denen von OpenAI und Google unterscheidet
Seit Anfang 2026 hat Anthropic zwei Risikoberichte veröffentlicht, im Februar und August, und fügt nun einen Bedrohungsbericht hinzu, der den zeitlichen Umfang von neun Monaten, formalisierte Kategorien und geopolitische Zuordnungen umfasst. OpenAI und Google veröffentlichen Transparenzberichte und Nutzungsrichtlinien, aber keiner nimmt das strukturierte Format von Bedrohungsinformationen an, das in Unternehmen wie CrowdStrike, Mandiant und Recorded Future Standard ist.
Für IT-Executives, die KI-Anbieter bewerten, ist der Unterschied operationell: Bedrohungsberichte ermöglichen das Mapping von Risiko-Vektoren innerhalb spezifischer Unternehmensarchitekturen; Transparenzberichte beschreiben Absichten und Richtlinien. Anthropic übernimmt im Wesentlichen das Offenlegungsmodell der Cybersicherheitsunternehmen und wendet es auf den Missbrauch von KI an.
Destillation, Alibaba und das Signal für Integratoren
Die Kategorie Destillation erhielt zusätzliche Aufmerksamkeit, weil Anthropic in früheren Mitteilungen Aktivitäten im Zusammenhang mit Alibaba in Trainingskampagnen für Modelle unter Verwendung von Claudes Ausgaben beschrieben hatte. Der Bericht vom September stellt dieses Muster in eine formale Missbrauchskategorie, mit direkten Auswirkungen auf Unternehmensverträge, die die Verwendung von Modellausgaben zum Training von Mitbewerbern untersagen.
Für Unternehmen, die KI-APIs in proprietäre Lösungen integrieren, erfordert das Vorhandensein von Destillation als Bedrohungskategorie eine Überprüfung der Protokollierungsrichtlinien und Zugangsrichtlinien. Es reicht nicht aus zu wissen, wer das Modell konsumiert; es ist notwendig zu wissen, was mit den Ausgaben geschieht, insbesondere wenn die Daten an interne Trainingssysteme weitergeleitet werden.
USA und Europa: zwei unterschiedliche Regulierungskontexte
In den Vereinigten Staaten, wo Anthropic tätig ist und den Großteil seiner kommerziellen Instanzen hostet, informiert der Bericht über den laufenden legislativen Diskurs. Das Unternehmen hat bereits vor Kongresskommissionen zu Sicherheit und Desinformation ausgesagt; September 2026 fügt biologische und konventionelle Rüstungen der Liste der Vektoren hinzu, die der Kongress in zukünftigen Regelungen ansprechen muss.
In der Europäischen Union ist die Auswirkung unmittelbarer. Das AI Office, dessen Aufsichtsbefugnisse über das AI-Gesetz im August 2026 in Kraft traten, hat die Befugnis, Zugriff auf Modelle zu verlangen, Milderungen zu verlangen und die Rücknahme von Produkten vom europäischen Markt zu bestimmen. Ein Bericht mit geopolitischen Zuordnungen und sieben expliziten Schadenskategorien bietet die faktische Grundlage, die Regulierungsbehörden benötigen, um technische Untersuchungen einzuleiten. Für Anbieter von Lösungen, die auf Claude für europäische Kunden basieren, schafft das Dokument einen präzedenzfall der Due Diligence: Anthropic dokumentiert die Risiken mit einer Granularität, die mit der von Cybersicherheitsunternehmen vergleichbar ist; die Integratoren müssen nachweisen, dass sie diese managen.
Die Frage, die CISOs und juristische Direktoren sich jetzt stellen müssen, ist nicht, ob die KI-Systeme, die sie verwenden, extern missbraucht werden können, sondern welche der sieben von Anthropic dokumentierten Kategorien für die Angriffsoberfläche der eigenen Organisation relevant sind.