AI Act: GPAI reicht heute erste Risikoanalyse ein

Das AI Office der Europäischen Kommission erhält bis Montag, den 15. September, die ersten formalen Berichte zur systemischen Risikoanalyse von Anbietern von General-Purpose AI (GPAI), deren Training den Schwellenwert von 10^25 FLOPs überschreitet. Dies ist der erste echte Test der Compliance-Maschine, die die Kommission seit dem Inkrafttreten der Aufsicht am 2. August eingerichtet hat.

Der Umfang der Dokumente ist technisch und wenig im öffentlichen Diskurs zu sehen: Methodologie des Red-Teaming, Enthüllungen über den Energieverbrauch der Trainingsläufe und die technische Datei gemäß Artikel 11, die zusammen mit 24 nationalen Marktüberwachungsbehörden geprüft wird. Begleitet wird dies von einer standardisierten Zusammenfassung über die Nutzung urheberrechtlich geschützten Inhalts im Training, basierend auf einer Vorlage, die das AI Office im Juli veröffentlicht hat.

Wer liefert, wer überprüft

Anthropic, OpenAI, Google DeepMind, Meta, Mistral, xAI und das LLM-Team von Alibaba gehören zu den Anbietern, die Dokumentation einreichen müssen, da sie Modelle über dem FLOP-Schwellenwert betreiben. Die Überprüfung erfolgt durch das AI Office in Brüssel, unterstützt von den nationalen Behörden und dem im Regulierungsrahmen vorgesehenen Scientific Panel. Die Strafen für Nichteinhaltung können bis zu 3 % des globalen Jahresumsatzes des Unternehmens oder 15 Millionen Euro betragen, je nachdem, welcher Betrag höher ist. Das Regime trifft somit US-amerikanische und chinesische Anbieter in ihrem weltweiten Umsatz, nicht nur im europäischen Markt.

Was sich für Unternehmenspartner ändert

Für den CIO einer globalen Bank, die Anthropic oder GPT in der Produktion einsetzt, wird die heutige Einreichung stillschweigend Teil zukünftiger Verträge. Artikel 25 des AI Act verpflichtet den Betreiber zur angemessenen Due Diligence, was bedeutet, dass der Käufer prüfen muss, ob der Anbieter den GPAI-Vorgaben entspricht. In deutschen und französischen Banken und Versicherungen ist diese Kontrolle seit Anfang des Jahres bereits als obligatorische Klausel in RFPs enthalten, aber der KI-Anbieter hatte bis heute kein offizielles Dokument der Kommission vorzuweisen. Der heute eingereichte Bericht wird genau zu diesem Dokument.

Für den globalen Berater, der Claude, Gemini oder GPT in Lösungen für Kunden in Asien und den Amerikas integriert, ist die Lesart doppelt. Wo die Jurisdiktion des Käufers europäisch ist, muss er eine Verantwortungskette nachweisen, die auf die Konformität des grenzüberschreitenden Anbieters zurückführt. Wo die Jurisdiktion asiatisch oder amerikanisch ist, wird die europäische Regelung zu einem nützlichen Benchmark für kommerzielle Argumente, auch wenn sie keine rechtliche Bindung hat. In Japan hat das METI das europäische Modell der FLOPs in seinen eigenen AI Business Guidelines veröffentlicht, die im Mai herausgegeben wurden. In den USA steht das NIST AI Risk Management Framework 2.0 mit derselben Terminologie im Dialog, auch wenn es nicht die gleichen Arten von Sanktionen vorsieht.

In Brasilien nimmt der PL 2.338, der das Nationale Regulierungs- und Governance-System für AI in der Analyse durch den Senat geschaffen hat, eine ähnliche Struktur wie die europäische an, legt jedoch den entsprechenden Schwellenwert für die rechenleistungsäquivalente Begrenzung noch nicht fest. Beratungsunternehmen, die in multinationalen Verträgen tätig sind, nutzen das europäische Modell bereits de facto als Mindeststandard in RFPs von lokalen Banken.

Die blinden Flecken der Übung

Es gibt berechtigte Kritik zu äußern. Sarah Chander vom European Center for Not-for-Profit Law erklärte auf einer Konferenz der Kommission im Juli, dass der FLOP-Schwellenwert den Rechenaufwand misst, nicht das tatsächliche Risiko: Ein Modell, das mit sensiblen medizinischen Daten unter 10^25 FLOPs trainiert wurde, kann mehr systemisches Risiko erzeugen als ein allgemeines LLM, das mit 10^26 trainiert wurde. Die Kommission antwortete, dass die Schwellenwerte jährlich überprüft würden. Auf der anderen Seite verteidigte Andrea Renda vom Centre for European Policy Studies die Übung als das einzige echte Mechanismus der Grenzprüfung, das es heute im Westen gibt. Weder die eine noch die andere Seite erwartet Perfektion in der ersten Runde.

Es gibt auch einen Punkt operativer Reibung. Grenzüberschreitende Anbieter beklagen, dass die standardisierte Urheberrechtsvorlage Detailangaben je Datensatz verlangt, die die meisten Modelle nicht mit retroaktiver Genauigkeit rekonstruieren können. Das AI Office akzeptierte in einer informellen Anleitung von August aggregierte Enthüllungen nach Kategorie und Zeitraum des Scraping für Läufe vor dem 2. August. Für spätere Läufe ist die Anforderung granular. Dies teilt die Branche zwischen denen, die in Datenherkunft-Pipelines investieren werden, und denen, die auf das Retaining mit überprüfbarem Budget setzen.

Was man beim Tun lernt

Das Ziel des AI Office ist es, aus Erfahrungen zu lernen. Marc Beaulieu, Leiter der GPAI-Abteilung der Kommission, sagte im August gegenüber Politico, dass die erste Reihe von Einreichungen dazu dienen wird, den Prozess selbst zu kalibrieren: Die Fragen zur Klärung, die auftreten, könnten noch vor Jahresende zu formellen Leitlinien werden. Die Compliance beginnt heute. Die Rechtsprechung darüber, was genau gefordert wird, wird in den nächsten zwölf Monaten aufgebaut.

Die Kommission hat angedeutet, dass sie einen technischen Dialog bevorzugt, bevor sie Sanktionen auslöst. Es lohnt sich, in den kommenden Quartalen zwei Indikatoren zu verfolgen: die Veröffentlichung oder Nichtveröffentlichung der eingereichten Zusammenfassungen und die Anzahl der Klarstellungsfragen, die an mehr als einen Anbieter weitergeleitet werden. Wenn dasselbe Klarstellungsersuchen in fünf Anträgen erscheint, wird es zur de facto Norm.