20 Länder fordern globale IA-Behörde; USA und China fehlen

Zweiundzwanzig Länder sowie die Europäische Kommission haben am Montagnachmittag eine gemeinsame Erklärung unterzeichnet, die verpflichtende Sicherheitstests vor dem Start fortschrittlicher KI-Systeme fordert und den Weg für eine internationale Institution mit Überprüfungsbefugnissen ebnet. Die USA, das Vereinigte Königreich und China haben nicht unterzeichnet.

"KI muss unter menschlicher Leitung, Aufsicht und Kontrolle bleiben", heißt es im Text, der hinzufügt, dass die Technologie "in Übereinstimmung mit internationalem Recht entwickelt und genutzt werden muss". Weiterhin fordert die Erklärung die UN-Mitgliedsstaaten auf, die Schaffung einer internationalen Institution zu prüfen, die "in der Lage ist, Standards festzulegen, Überprüfungen zu ermöglichen und Staaten zu rufen, wenn Kapazitätsgrenzen überschritten werden".

Wer hat unterzeichnet und was verlangt der Text

Zu den Unterzeichnern zählen der kanadische Premierminister Mark Carney, der deutsche Kanzler Friedrich Merz, der spanische Regierungschef Pedro Sánchez, der australische Premierminister Anthony Albanese und die Präsidentin der Europäischen Kommission, Ursula von der Leyen, sowie Norwegen, Finnland, Irland, die Niederlande, Singapur, Südafrika und Kenia. Die Erklärung wurde Stunden vor der Eröffnung der hochrangigen Woche der UN-Generalversammlung vom 21. bis 27. September veröffentlicht.

Es gibt drei Forderungen. Die erste verlangt von den Unternehmen, Sicherheitstests vor der öffentlichen Einführung durchzuführen und unabhängige Prüfer Zugang zu den internen Entwicklungspraktiken zu gewähren. Die zweite fordert von Regierungen und regionalen Blöcken, gemeinsame Bewertungsstandards mit eigener wissenschaftlicher Kapazität zur Messung von Modellen zu entwickeln. Die dritte betrifft die internationale Institution, die als etwas dargestellt wird, das zu erkunden ist, und nicht sofort geschaffen werden soll.

Der Unterschied zwischen den dreien ist nicht rhetorisch. Der Pre-Deployment-Test liegt in der Verantwortung des Unternehmens, das das Modell trainiert. Unabhängige Überprüfung erfordert, dass jemand von außen in den Trainingsprozess eintritt. Staaten zu rufen, wenn ein Kapazitätsgrenzwert überschritten wird, setzt voraus, dass es einen gemessenen und vereinbarten Grenzwert gibt, und kein Unterzeichner hat veröffentlicht, was dieser wäre.

Die Abwesenheit wiegt mehr als die Teilnahme

Die drei abwesenden Länder beherbergen praktisch alle relevanten Spitzenlabore. OpenAI und Anthropic sind in den USA ansässig, Google DeepMind im Vereinigten Königreich, und China konzentriert die offenen Modelle, die derzeit den Preis auf dem globalen Markt unter Druck setzen. Ein Überprüfungsregime ohne diese drei Unterzeichner betrifft lediglich die Käufer der Technologie, nicht die Produzenten.

Die amerikanische Position wurde nicht am Montag geboren. Am 17. September berichteten Medien, dass Mark Zuckerberg, Elon Musk und Jensen Huang separat mit Präsident Donald Trump über die Schaffung eines von der Industrie finanzierten KI-Regulators im Stil der Finra gesprochen haben, ein Vorschlag, der mit Demis Hassabis verbunden ist. Das Argument der drei, so die Berichte, war, dass das Design die Position von OpenAI, Anthropic und Google hinter einem regulatorischen Graben festigen würde. Trump verfolgte die Idee nicht weiter.

Die Industrie ist auch hinsichtlich des Tempos gespalten. Der Artikel "We Must Pace the Frontier", veröffentlicht von Dario Amodei am 12. September, schlug vor, externen Prüfern dauerhaften und gleichwertigen Zugang zu gewähren, um die Einhaltung von Sicherheitsverpflichtungen während des Trainings zu überprüfen. Sam Altman und Hassabis unterstützten die Idee, sich koordiniert zu verlangsamen. Zuckerberg und Huang wiesen dies zurück und argumentierten, dass Produktwettbewerb und zivilrechtliche Verantwortung bereits diejenigen bestrafen, die ein unsicheres Modell bereitstellen.

Was sich für Käufer ändert

Für ein deutsches Unternehmen ändert sich kurzfristig wenig, da die bindende Verpflichtung bereits besteht. Die Transparenzregelungen des Artikels 50 des europäischen KI-Gesetzes gelten seit dem 2. August 2026, mit Geldstrafen von bis zu 15 Millionen Euro oder 3 % des globalen Umsatzes, je nachdem, welcher Betrag höher ist. Die Erklärung vom Montag fügt eine politische Ebene über eine Norm hinzu, die bereits mit Sanktionen belegt ist.

In Singapur, dem Unterzeichner, ist die Berechnung eine andere. Der Stadtstaat beherbergt die asiatischen KI-Operationen globaler Banken, und ein gemeinsamer Standard fürPre-Deployment-Bewertungen würde sich auf Modelle beziehen, die bereits im Einsatz sind für Kunden aus der ganzen Region.

Kanada und Australien haben unterschrieben, ohne ein Spitzenlabor zu beherbergen, und hier verschiebt sich die Rechnung. Die indischen Delivery-Zentren von TCS, Infosys und Accenture betreiben KI-Pipelines für europäische, kanadische und australische Kunden, die nun den Text unterzeichnet haben. Das Gleiche gilt für die brasilianischen Operationen von Shared Services und BPO multinationaler Unternehmen: Die Anforderungen an die Pre-Deployment-Tests kommen nicht durch lokales Recht, sondern durch Vertragsklauseln des Kunden, und die Kosten für deren Umsetzung trägt der Anbieter, nicht derjenige, der die Erklärung unterschrieben hat.

Der institutionelle Streit löst sich schneller, als das Dokument vorschlägt. Frankreich präsidiert im September den UN-Sicherheitsrat und hat eine offene Sitzung über KI und internationale Sicherheit einberufen, die vom Kanzler Jean-Noël Barrot geleitet wird, in der Altman vor den 15 Mitgliedern sprechen soll. Die drei Länder, die die Erklärung nicht unterzeichnet haben, haben alle das Vetorecht an diesem Tisch.