Amodei über IA-Industrie: "Lügen" zu Risiken und neue Modelle

Der CEO von Anthropic, Dario Amodei, erklärte in der Sendung "CBS Sunday Morning" am 13. September, dass "die Industrie zu lange die Leute über die Risiken dieser Technologie angelogen hat". In demselben Interview kündigte er an, dass Anthropic unabhängigen Gutachtern dauerhaften Zugang zu ihren Modellen gewähren wird, "als wären sie Mitarbeiter". Amodei verglich den Mechanismus mit einem "Sanitätsinspektor", der überprüfen kann, ob Unternehmen ihren eigenen Sicherheitsverpflichtungen nachkommen.

Was genau angekündigt wurde

Amodei schlug vor, dass die Konkurrenten dasselbe Protokoll akzeptieren: kontinuierlicher Zugang für Dritte zu den neuesten Modellen, mit dem Recht, Verhaltensweisen zu inspizieren, die bisher nur dem Unternehmen selbst bekannt waren. Zum ersten Mal bietet eines der drei großen Labore öffentlich einen kontinuierlichen Auditing-Prozess an, anstelle von punktuellen Bewertungen vor dem Launch. Amodei bekräftigte außerdem, dass er die Bundesregulierung unterstütze und erkannte, dass die unabhängigen Gutachter allein "schwerlich ausreichen".

Die Aussage kam als direkte Antwort an Jacob Coxon, einen ehemaligen Forscher von Anthropic, der das Unternehmen kurz davor verlassen hatte und auf existenzielle Risiken von selbstverbessernder Superintelligenz hinwies. Amodei gab zu, dass er "nicht vollständig evaluiert hat, wie es wäre, wenn der Fortschritt so schnell käme". Diese Aussage steht im Gegensatz zu seiner Position im Januar, als Amodei den Fortschritt der IA als "exponentiell" beschrieb und den Moment mit einer "Pubertät" der Technologie verglich.

Das chinesische Dilemma in der parallelen Diskussion mit CNBC

Am selben Tag, dem 13., erklärte Amodei gegenüber CNBC, dass China das "schwierigste Dilemma" seiner Vorschläge zur Verlangsamung sei. Die Logik ist einfach: Wenn amerikanische Labore das Tempo drosseln, während chinesische Unternehmen mit maximaler Geschwindigkeit weitermachen, geht die Sicherheitsgewinne mit strategischem Verlust einher. Amodeis Antwort war, dass es dennoch wert sei zu bremsen. "Ich sage nicht, dass das Problem einfach ist", erklärte er. "Ich sage, dass die Alternative schlimmer ist."

Das Argument widerspricht der Linie, die David Sacks, IA-Zar des Weißen Hauses, öffentlich vertritt. Sacks wies in dieser Woche die Idee eines Paktes zwischen amerikanischen Labors zurück und warnte vor dem Risiko eines "einseitigen Abrüstens". Der Abstand zwischen den beiden Positionen ist der Grund, warum die Gespräche zwischen der Trump-Regierung und den Unternehmen seit Juli ins Stocken geraten sind, wie das The Information berichtet hat.

Globale Perspektive: drei geografien, drei unterschiedliche Probleme

Für die Vereinigten Staaten verschiebt Amodeis Vorschlag die Kosten für die Sicherheit innerhalb der Industrie und hinaus aus dem Kongress. Wenn drei Labore externe Gutachter mit einem Zugang, der dem von Mitarbeitern entspricht, akzeptieren, hört der Streit um die Risikodefinition (die derzeit von dem Unternehmen, das das Modell produziert, vorgenommen wird) auf, und die Governance der Metrik wird zum neuen Thema. Eine direkte Folge: Unternehmenskontakte, die "AI Safety Attestationen" verlangen, erlangen eine prüfbare Anforderung.

Für die Europäische Union kompliziert die Ankündigung die Auslegung des AI-Gesetzes. Seit dem 2. August kann die Kommission Anbieter von Modellen für allgemeine Zwecke mit bis zu 3% des weltweiten Umsatzes büßen. Wenn Anthropic freiwillig ein Regime akzeptiert, das wie eine Auditierung des Verhaltenskodex gemäß Artikel 55 des AI-Gesetzes aussieht, verliert das europäische AI-Büro einen Teil des Arguments, dass es Zugang über den Regulierungprozess erzwingen muss. Gleichzeitig erhält es eine technische Basis, um OpenAI und Google zu vergleichen.

Für China ist der Vorschlag rhetorisch: Kein chinesisches Labor wird seine Modelle einem westlichen Gutachter öffnen. Was sich ändert, ist die politische Kostenstruktur, dies zu sagen. Wenn Anthropic den Zugang von Dritten institutionalisiert, erhalten Zhipu, Moonshot und DeepSeek ein implizites "nicht evaluiert"-Siegel, wenn sie an RFPs multinationaler amerikanischer oder europäischer Unternehmen teilnehmen. Der praktische Effekt ist geringer als die Schlagzeile vermuten lässt, aber real im Bereich Firmenkäufe.

Was Amodeis Argument schwächt

Amodei selbst erklärte, dass eine kontinuierliche Prüfung "schwerlich ausreicht". Diese Aussage verleiht Glaubwürdigkeit und schränkt die Erwartungen ein. Die Diskussion darüber, wer diese Gutachter bezahlt, wer sie akkreditiert und wer für Warnversäumnisse verantwortlich ist, ist noch offen. Eine schwache Version der Regelung könnte zu einem Pro-forma-Ausschuss führen, ähnlich dem, den Meta bis 2023 hatte.

Die andere Schwachstelle ist zeitlicher Natur. Amodei schlägt vor, das Tempo zu bremsen, während Anthropic gerade 14,8 GW Rechenleistung gesperrt hat und einen jährlichen Umsatz von über 30 Milliarden US-Dollar meldet, vor OpenAI in Bezug auf Umsatz pro Sitz in mehreren vertikalen Märkten. Rivalität und Sicherheitsdiskurse koexistieren, aber die Seite, die bereits vorneweg läuft, gewinnt mehr von einer koordinierten Pause. Für den C-Level-Einkäufer bleibt der Test derselbe: die im Vertrag vorgesehene SLA für die Prüfung und nicht das Interview vom Sonntag.