Guterres eröffnet in Genf den 1. Globalen Dialog zur KI-Governance und fordert internationales Gesetz gegen autonome Waffen

Der Generalsekretär der UNO, António Guterres, eröffnete am Montag, den 6. Juli, in Genf die erste Sitzung des Globalen Dialogs über die Governance von Künstlicher Intelligenz mit Delegationen aus 169 Ländern, Führungskräften der führenden Entwickler von Frontier-Modellen sowie Vertretern aus der Wissenschaft und der Zivilgesellschaft. Guterres forderte von den Regierungen vier konkrete Verpflichtungen: gemeinsame Sicherheitslinien für Frontier-Modelle, rote Linien für Menschenrechte, einen internationalen Kapazitätsaufbau für Entwicklungsländer und Transparenz hinsichtlich des Energie- und Wasserverbrauchs der Industrie.

Die direkteste Aussage betraf autonome Waffen. Guterres forderte, dass Systeme, die in der Lage sind, Ziele ohne menschliche Kontrolle auszuwählen und anzugreifen, die er als "moralisch abscheulich und politisch inakzeptabel" bezeichnete, durch einen internationalen Vertrag verboten werden. "Die Welt darf nicht zulassen, dass KI das Schicksal der Menschheit kodiert", erklärte er in Bezug auf den in Software-Engineering-Foren populär gewordenen Begriff, der die vollumfängliche Delegation von Entscheidungsfindungen an generative Modelle beschreibt.

Ein regulatorisches Regelwerk in drei Geschwindigkeiten

Der Dialog findet weniger als einen Monat vor dem 2. August statt, dem Datum, an dem die Europäische Kommission Macht zur Sanktionierung von Anbietern allgemeiner Modelle im Rahmen des AI-Gesetzes erhält. Laut dem Gesetzestext können die Geldbußen des Artikels 101 bis zu 15 Millionen Euro oder 3% des weltweiten Jahresumsatzes betragen. Verbotene Praktiken, wie soziale Punktzahlen und bestimmte biometrische Anwendungen, unterliegen Bußgeldern von bis zu 35 Millionen Euro oder 7% des globalen Umsatzes. Die Sanktionen gegen soziale Punktzahlen gelten bereits seit Februar 2025, und bis März 2026 hatten lediglich acht Mitgliedstaaten die von Brüssel geforderten einzigartigen Ansprechpartner benannt, wie ein Bericht des Europäischen Parlaments zeigt.

Im nordamerikanischen Kontext hat Präsident Donald Trump am 2. Juni einen Exekutivbefehl unterzeichnet, der das freiwillige Rahmenwerk für die Bereitstellung von Secure Frontier-Modellen ins Leben rief, das bis zu 30 Tage vorzeitig Zugang zu abgedeckten Modellen und einen klassifizierten Test von Cyberfähigkeiten vorsieht. Der Abgabetermin für den Benchmark ist der 1. August. OpenAI hat die Verfügbarkeit von GPT-5.6 Sol Ende Juni auf eine Gruppe von vom US-Regierung genehmigten Partnern beschränkt, und Sam Altman schlug am 2. Juli laut Financial Times vor, 5% des Unternehmens in Form eines Sovereign Wealth Fund an das Finanzministerium zu übergeben, in Anlehnung an den Alaska Permanent Fund.

Die chinesische Linie war bei dem Treffen in Genf am wenigsten präsent, dominierte jedoch die Flure. Peking verschärfte im vergangenen September seine Vorschriften zur Kennzeichnung von KI-generierten Inhalten und verlangt mittlerweile eine vorherige Registrierung für öffentlich genutzte Modelle. Der Kontrast zum europäischen Modell, das auf Grundrechten basiert, und zum amerikanischen Modell, das auf klassifizierten Regierungszugängen beruht, hinterlässt aufstrebenden Ländern drei konkurrierende Vorlagen ohne klaren Gewinner.

Was es für C-Level bedeutet

Guterres kündigte an, dass er die Generalversammlung im September um die Schaffung eines Globalen KI-Fonds bitten wird, um Kapazitäten, Daten und Zugang zu Rechenleistung zu erweitern. Sollte der Fonds genehmigt werden, wäre dies das erste multilaterale Instrument mit der Macht, Verträge über Cloud-Dienste in aufstrebenden Volkswirtschaften neu auszurichten. Delegationen aus Brasilien, Südafrika und Indien arbeiteten im Hintergrund daran, eine Klausel über "gerechten Zugang zur Rechenleistung" in die abschließende Erklärung einzufügen, und die Co-Präsidentschaft des Exekutivausschusses wurde an El Salvador und Estland vergeben.

Es gibt eine abweichende Stimme, die im Umlauf ist. Ein Block von Akademikern und ehemaligen Führungskräften argumentiert seit Anfang des Jahres, dass die derzeitige regulatorische Jagd auf die falschen technischen Fähigkeiten abzielt und konkrete Schadenskanäle ignoriert, wie die algorithmische Vermittlung von Krediten und Diskriminierung in Arbeitsentscheidungen. Diese Beobachtung ist als Kontrapunkt nützlich: Der Dialog in Genf berührte nur sehr wenig die gemittelten Schadenskanäle, und keine der vier Prioritäten von Guterres adressiert direkt die alltägliche betriebliche Nutzung von als geringem Risiko eingestuften Systemen im Rahmen des AI-Gesetzes.

Die Industrie drängt wiederum auf überprüfbare Metriken. Anthropic, das den Claude Fable 5 nach einer Überprüfung der US-Exportkontrolle am 1. Juli global redistribuierte, und OpenAI, das den GPT-5.6 Sol unter kontrolliertem Zugang hostet, setzen sich für klassifizierte Kapazitätstests als realistischsten Mechanismus für die Grenzsicherheit ein, eine Position, die sich dem Entwurf der amerikanischen Exekutivordnung nähert und mit dem Widerstand gegen von der chinesischen Gruppe angedachte generische Vorregistrierungsmechanismen übereinstimmt.

Wo die Latte höher gelegt wird

Die zweite Sitzung des Dialogs ist für Mai 2027 in New York angesetzt. Zwischen jetzt und dann ist der Zeitplan für das regulatorische Risiko in den Unternehmensbereichen klar: Am 2. August wird die Sanktionierungsgewalt des AI-Gesetzes aktiviert; der 1. August ist die Frist für das amerikanische Rahmenwerk; und der internationale Konsens über autonome Waffen, sofern er zustande kommt, wird im Oktober von der Gruppe der Regierungsfachleute im Rahmen der Konvention über konventionelle Waffen in New York kommen. Berater und Banken mit grenzüberschreitender Exposition haben bereits begonnen, Outsourcing-Verträge für Modelle zu überprüfen, wobei der Fokus auf Klauseln zur Prüfbarkeit und Standort des Trainings liegt. Die Abteilungen, die sich im nächsten Monat aus dem Thema zurückziehen, werden die sein, die trocken ausgehen.