Anthropic, OpenAI und Google prüfen privat Standards für KI

Drei Labore, die in den letzten zwei Jahren öffentlich aufeinander losgingen, sitzen seit Juli am selben Tisch. Arbeitsgruppen von Anthropic, OpenAI und Google diskutieren die Schaffung einer freiwilligen Standardschaffung für fortschrittliche Modelle, ohne direkte Beteiligung der amerikanischen Bundesregierung. Die Informationen, die zuerst von The Information und anschließend von asiatischen Medien am 14. September aufgegriffen wurden, halten fest, was Sam Altman 48 Stunden zuvor Fortune andeutete: "Einige Vereinbarung zwischen großen KI-Unternehmen wird stattfinden."

Was der Verband tun und nicht tun würde

Laut Personen aus den drei Unternehmen umfasst das vorgesehene Design gemeinsame Sicherheitsbenchmarks, Cross-Red-Team-Protokolle, Transparenzklauseln vor der Markteinführung von Modellen über einem bestimmten Umfang und einen Mechanismus für externe Audits, ähnlich dem, was Dario Amodei am Sonntag CBS vorschlug. Was nicht vorgesehen ist: irgendwelche Sanktionsbefugnisse. Es ist ein Kompromissklub, kein Regulierer. Es ersetzt nicht den europäischen AI Act noch das Frontier Model Forum, das weiterhin besteht.

Der direkte Auslöser war das Stillstehen der Gespräche mit dem Weißen Haus. Die Arbeitsgruppen begannen im Juli genau, weil die Meetings mit dem Team von David Sacks, dem KI-Zar der Trump-Regierung, nicht mehr zu schriftlichen Ergebnissen führten. Sacks hat öffentlich dafür plädiert, dass jeder Pakt zur Verlangsamung zwischen amerikanischen Laboren "ein einseitige Abrüstung" gegenüber China darstellt. Die Unternehmen kamen zu dem Schluss, dass das Warten auf Washington gegen ihren eigenen Zeitplan für die Markteinführung ist.

Wo die drei uneinig sind

Anthropic und OpenAI stimmen nicht im offensichtlichsten Punkt überein: Inwieweit der Staat involviert ist. Anthropic argumentiert seit Juli durch die Stimme ihres Red-Teams-Leiters, dass Standards gemeinsam mit Regulierungsbehörden entwickelt werden müssen. OpenAI verfolgt das Gegenteil: freiwillige Branchenstandards plus punktuelle staatliche Gesetzgebung (der kalifornische SB 1047 ist das Modell). Google steht dazwischen, operativ näher bei OpenAI und rhetorisch näher bei Anthropic.

Die Distanz ist wichtig, da sie definiert, ob der Verband ein Mittel zur regulatorischen Erfassung werden kann. Ein vollkommen freiwilliger Klub setzt einen Mindeststandard, den nur diejenigen mit Einnahmen zur Finanzierung teurer Red-Teams erfüllen können, was den drei Gründern zugutekommt. Ein Klub, der ein Regierungscomité fordert, schafft einen formellen Ansprechpartner, mit dem jede zukünftige Regierung (oder der Kongress selbst) sprechen kann, was denjenigen zugutekommt, die um eine politische Überprüfung der Vereinbarung fürchten.

Globale Betrachtung

Für die USA konsolidiert das Design einen Trend, den die Blockchain Association und IBM in früheren Zyklen erlebten: die industrielle Selbstregulierung geht der Regulierung voraus und definiert sie oft. Sollte der Verband gegründet werden, wird das Frontier Model Forum überflüssig und das Handelsministerium verliert den zentralen Grund für seine aktuelle Durchführung von Exportkontrollen gegen China.

Für die Europäische Union erhält das AI Office einen einzigen Ansprechpartner, um Rechenschaft einzufordern. Operativ ist das gut, politisch schlecht: Die Europäer wollten, dass der AI Act der globale Mindeststandard ist, und ein amerikanischer Klub mit eigenen Standards schafft eine zweite Norm. Die französische Ministerin Clara Chappaz signalisiert bereits im Juli, dass Paris "amerikanische freiwillige Standards" als Konkurrenz und nicht als Konvergenz behandeln würde.

Für Brasilien ist die Wirkung indirekt und kostspielig. Das PL 2338/2023, das im Dezember 2024 im Senat genehmigt wurde und noch im Abgeordnetenhaus blockiert ist, wurde entwickelt, um sich an den europäischen AI Act anzupassen. Wenn sich der Standard ändert, bleibt der brasilianische Text im Ungewissen: weder risikobasiert im europäischen Stil noch freiwillig im amerikanischen Stil. Multinationale Unternehmen, die hier tätig sind, mit einem höheren Gewicht von Itaú, Bradesco, Petrobras und Ambev, werden von ihren KI-Lieferanten vertragliche Klauseln verlangen, die mit dem amerikanischen Klub kompatibel sind. Anthropic und OpenAI verlangen bereits einen Aufpreis für Enterprise-Versionen mit "Safety Attestation"; dieser Aufpreis wird voraussichtlich steigen.

Was den Vertrag noch gefährden könnte

Das erste Risiko ist Sacks selbst. Falls Washington signalisiert, dass jegliche Koordination zwischen Laboren ein Antitrust-Fall werden könnte (das Justizministerium überwacht bereits Preisgespräche in Modellen für Bilder), ziehen die Unternehmen sich zurück. Das zweite Risiko ist die xAI von Elon Musk, die nicht zur Einladung gehört und persönlich motiviert ist, das Trio der Absprachen zu beschuldigen. Das dritte Risiko, das langsamer eintritt: Wenn das nächste fortschrittliche Modell vor der Veröffentlichung der ersten Norm des Verbandes herausgebracht wird, wird die Norm nutzlos. Die Arbeitsgruppen sprechen von Januar für die öffentliche Version. GPT-6, Fable 5.2 und Gemini 4 sind informell für vorher geplant.

Für den CIO, der heute ein Modell kauft, ist die praktische Lesart vor jeglichem Klub: Schreiben Sie im Vertrag das Recht zur Prüfung des Red Teams, verlangen Sie einen SLA für die Offenlegung in 72-Stunden-Fenstern bei Sicherheitsvorfällen, und behandeln Sie die "Safety Attestation" als Klausel, nicht als Verkaufsargument.