Google, OpenAI und Anthropic planen Selbstregulierung

Google, OpenAI und Anthropic haben sich darauf geeinigt, eine eigene Einrichtung zur Festlegung von Sicherheitsstandards für Frontier-Modelle zu schaffen, vorläufig als Standards Authority for Frontier AI bezeichnet, so ein Bericht der Website The Information, der am Donnerstag (24.) veröffentlicht wurde. Die Einrichtung könnte Ende dieses Jahres oder Anfang 2027 tätig werden und würde ohne Aufsicht der US-Regierung arbeiten.

Keine der drei Firmen hatte den Plan bis zum Abschluss dieses Artikels öffentlich bestätigt.

Wer für die Leitung in Betracht gezogen wurde

Laut dem Bericht haben die drei Unternehmen nach Personen mit gegensätzlichen Profilen für die Führung gesucht. Sriram Krishnan, der bis Juni 2026 KI-Berater im Weißen Haus unter Trump war, und Arati Prabhakar, die die Politik für Wissenschaft und Technologie unter Biden leitete, würden für die CEO-Position in Betracht gezogen. Für den Vorsitz des Boards stünden Condoleezza Rice, ehemalige Außenministerin unter George W. Bush, und der Investor David Friedberg auf der Liste.

Der beschriebene Umfang ist operationell: Unterstützung unabhängiger Organisationen, die Modelle vor der Einführung testen, Festlegung, wie Entwickler Sicherheitsvorfälle melden sollen, Konsolidierung der freiwilligen Verpflichtungen der Unternehmen und Festlegung von Qualifikationen für unabhängige Auditoren von Modellen und Laboren.

Von FINRA-Aufsicht zu einem Club ohne Regulierer

Die Idee hat bekannte Ursprünge. In einem Aufsatz, der am 14. Juli veröffentlicht wurde, schlug Demis Hassabis, CEO von Google DeepMind, eine von der Industrie finanzierte Standards-Einrichtung nach dem Vorbild der FINRA, der Selbstregulierungsbehörde für amerikanische Brokerhäuser, mit Bundesaufsicht vor. Vertreter der drei Unternehmen bildeten anschließend eine Arbeitsgruppe und trafen sich im Laufe des Sommers, so der Bericht.

Die Bundesaufsicht fiel jedoch aus. Der Wall Street Journal berichtete am 16. September, dass Mark Zuckerberg, Elon Musk und Jensen Huang im Vormonat separat mit Donald Trump gesprochen und ihn überzeugt hätten, das Modell mit Regierungsbeteiligung aufzugeben. Was jetzt bleibt, ist eine Version ohne Regulierer: die Unternehmen schreiben die Regeln, finanzieren die Einrichtung und wählen aus, wer sie leitet.

Die offensichtlichste Einwendung ist bereits aufgetaucht. Kritiker, die in der Berichterstattung zitiert werden, sagen, dass das Organ von den drei Unternehmen genutzt werden könnte, um den Raum für Entwickler offener Modelle und kleinere Wettbewerber einzuschränken, die dann den von den Marktführern festgelegten Standards folgen müssten. Die Verteidigung des Modells besteht darin, dass die FINRA seit Jahrzehnten funktioniert, weil diejenigen, die das Produkt kennen, die technischen Regeln aufstellen, und dass ein gemeinsamer Teststandard besser ist als keiner.

Der Kontrast zu New York, Brüssel und Peking

Die Nachricht erschien einen Tag nachdem Sam Altman und Dario Amodei im UN-Sicherheitsrat sprachen, am Mittwoch (23.). Altman plädierte dafür, dass Länder gemeinsame Standards entwickeln, um zu testen, was die Modelle tun und ob die Schutzmaßnahmen funktionieren. Amodei schlug enge globale Vereinbarungen vor, wie das Verbot eines Einsatzes von KI für biologische Waffen, Überprüfungsmechanismen zwischen Ländern und ein Meldesystem für Vorfälle. In den Vereinigten Staaten ist die praktische Antwort auf diese Rede eine private Einrichtung.

In der Europäischen Union ist der Weg anders. Der AI Act verhängt seit August 2025 bereits Verpflichtungen gegenüber Anbietern von allgemeinen Modellen, mit Aufsicht durch das AI Office der Europäischen Kommission. Ein privater amerikanischer Standard ersetzt diese Verpflichtungen nicht, kann jedoch zum technischen Referenzrahmen werden, den die Unternehmen nach Brüssel mitnehmen, um die Konformität nachzuweisen.

In China operiert die Cyberadministration (CAC) in entgegengesetzter Richtung, mit einer vorherigen Registrierung von Algorithmen beim Staat und regelmäßigen Überprüfungsaktionen für KI-Anwendungen im Jahr 2026. Das Ergebnis ist, dass für dasselbe Modell die Sicherheitstests drei unterschiedliche Schiedsrichter haben, mit inkompatiblen Logiken.

Was das für Käufer von KI bedeutet

Für CIOs und CISOs besteht die unmittelbare Konsequenz in vertraglicher Hinsicht. Sollte die Einrichtung Realität werden, werden die Berichte über Vorabtests und die Vorfallmeldungen, die sie standardisiert, Teil des Vertragsanhangs und des Fragebogens für Anbieter, wie es bei SOC 2-Zertifizierungen in der Cloud der Fall war. Wer Modelle von Meta, xAI, Mistral oder chinesischen Laboren kauft, wird wissen wollen, warum diese Anbieter nicht teilnehmen.

Dies ist der Punkt, der noch gelöst werden muss. Meta, xAI und Nvidia, deren Führungskräfte die Version mit Bundesaufsicht abgelehnt haben, gehören nicht zu den beschriebenen Gründern. Ein Sicherheitsstandard, der drei Labors abdeckt und einen der größten Entwickler offener Modelle in den USA ausschließt, misst das Verhalten derjenigen, die sich angeschlossen haben, und nicht das des Marktes.