OpenAI fordert US-Führung bei KI-Standards

OpenAI veröffentlichte am Montag ein Dokument, in dem die Vereinigten Staaten aufgefordert werden, eine internationale Initiative zur Festlegung technischer Standards für fortschrittliche KI zu leiten, mit besonderem Augenmerk auf das, was das Unternehmen als rekursive Selbstverbesserung bezeichnet, die Fähigkeit eines Systems, sich selbst ohne menschliches Eingreifen zu verbessern. Der Text erschien am selben Tag, an dem sich weltweite Führer in der UN trafen, und an dem 20 Länder sowie die Europäische Kommission eine Erklärung unterzeichneten, die genau das Gegenteil fordert: ein internationales Überprüfungsorgan.

Bezüglich der rekursiven Selbstverbesserung behauptet das Unternehmen, diese finde derzeit nicht vollständig autonom statt, und betont, dass sie nicht angestrebt werden sollte, es sei denn, die Entwickler würden nachweisen, dass dies sicher möglich ist und eine signifikante menschliche Kontrolle gewahrt bleibt. "Technisch gesehen geht es darum, sicherzustellen, dass die Forschung zur Ausrichtung und deren Implementierung den Fähigkeiten vorausgeht", heißt es in dem Dokument.

Inhalt des Vorschlags

Der zentrale Punkt ist ein Mechanismus zur Klassifizierung und Berichterstattung über Vorfälle. Laut dem Dokument würden die Standards gemeinsame Schweregrade, Benachrichtigungsgrenzen und Reaktionsprotokolle für Ausrichtungsfehler und automatisierte KI-Forschung umfassen. Ein zweiter Bestandteil sind Metriken: das Volumen der autonomen Forschung innerhalb eines KI-Unternehmens zu messen und zu definieren, welche Arten von automatisierten Forschungsprozessen eine menschliche Überprüfung auslösen sollten.

OpenAI nennt ISO, Frontier Model Forum, Agentic AI Foundation und Open Secure AI Alliance als mögliche Foren und sucht Analogien in der Luftfahrt und der Finanzstabilität, Branchen, in denen Länder gemeinsame technische Standards und Kooperationskanäle geschaffen haben, ohne auf nationale Autorität zu verzichten.

Ausschlüsse des Vorschlags

Hier ist der Teil, den ein Jurist zweimal lesen sollte. Das Dokument stellt ausdrücklich klar, dass diese technischen Standards keine Lizenzen, keine verpflichtenden Vorabprüfungen und keine Modellgenehmigungen sein würden. Es läge an jedem einzelnen Staat zu entscheiden, ob und wie sie in die eigenen Rechtsordnungen aufgenommen werden.

Dies ist der genaue Unterschied zwischen dem Vorschlag von OpenAI und der Erklärung der 20 Länder. Der Text, der von Mark Carney, Friedrich Merz, Pedro Sánchez, Anthony Albanese und Ursula von der Leyen unterzeichnet wurde, fordert Sicherheitsprüfungen vor der öffentlichen Implementierung und unabhängige Prüfer mit Zugang zu internen Praktiken. Das Dokument von OpenAI bietet Taxonomie und Berichterstattung, jedoch ohne Zugangsschranke.

Die Kritik am staatlichen Modell hat einen Namen und eine Adresse. Am 17. September berichteten Medien, dass Mark Zuckerberg, Elon Musk und Jensen Huang beim Präsidenten Donald Trump argumentiert hätten, dass ein von der Industrie finanzierter KI-Regulator die Vorteile von OpenAI, Anthropic und Google zementieren und eine regulatorische Kluft gegen Neueinsteiger schaffen würde. Das Argument verdient ernst genommen zu werden, auch von denen, die misstrauisch sind: Ein teures Compliance-Regime begünstigt diejenigen, die bereits über ein Compliance-Team verfügen.

Es gibt auch Elemente, die die These von OpenAI schwächen. Ein freiwilliges Modell für die Berichterstattung über Vorfälle hängt davon ab, dass das Unternehmen Berichte erstattet, und die von dem Unternehmen vorgeschlagene Metrik, das Volumen der internen autonomen Forschung, ist heute eine Zahl, die kein Labor veröffentlicht und kein Regulierungsbehörde auditiert. Das Vorschlagen der Metrik macht sie nicht beobachtbar.

Was der CIO damit macht

In der Europäischen Union ist nichts davon optional. Die Transparenzpflichten des Artikels 50 des AI Act gelten seit dem 2. August 2026, mit Geldstrafen von bis zu 15 Millionen Euro oder 3% des weltweiten Umsatzes, je nachdem, was höher ist. Ein deutsches oder spanisches Unternehmen, das ein fortschrittliches Modell erwirbt, ist bereits für die Kennzeichnung von generiertem Inhalt und die Identifikation von Chatbots verantwortlich, unabhängig davon, was in einem internationalen technischen Forum vereinbart wird.

In den Vereinigten Staaten wird gehofft, dass der technische Standard vor dem Gesetz kommt und gestaltet, was das Gesetz fordern wird. Für einen amerikanischen Käufer besteht die praktische kurzfristige Auswirkung in vertraglichen Aspekten: Klauseln zur Vorfallbenachrichtigung in API-Verträgen erhalten eine Referenztaxonomie, die es heute nicht gibt, und die der Grund dafür ist, dass jeder Anbieter die Schwere nach eigenem Ermessen definiert.

In Singapur und Japan, wo die Regime auf Standards und nicht auf Lizenzen basieren, wäre eine gemeinsame Taxonomie der Schwere fast sofort umsetzbar, und Banken, die Kreditmodelle in Asien betreiben, hätten eine einheitliche Referenz zur Meldung von Produktionsfehlern.

Die Implementierungskosten sinken, wie fast immer, in der Lieferkette. Delivery-Zentren in Indien und brasilianische Shared Services, die IA-Pipelines für globale Kunden unterhalten, würden die Vorfallklassifizierung vertraglich übernehmen, ohne an einer der beiden Diskussionen teilgenommen zu haben.

Die Frage, die keines der beiden Dokumente beantwortet, ist, wer die Überprüfung finanziert. Die Erklärung der 20 Länder fordert unabhängige Prüfer; OpenAI fordert eigene Berichterstattung. Zwischen diesen beiden Architekturen gibt es einen Raum, in dem jemand die Finanzierung, Anstellung und den Schutz der Prüfer übernehmen muss, und weder die Staaten noch die Labore haben diese Zahl auf Papier gebracht.