Brüssel fordert Daten von OpenAI und Anthropic an

Die Europäische Kommission hat formelle Informationsanfragen an OpenAI und Anthropic auf Grundlage des AI Act gesendet, wie die Exekutiv-Vizepräsidentin Henna Virkkunen am Mittwoch (14.) bei einer Veranstaltung in Dublin bekannt gab, laut Euronews. Die Anfragen beziehen sich auf zwei Vorfälle, die im Sommer in den Laboren der Unternehmen aufgetreten sind, und betreffen Sicherheit, externe Bewertung und Überwachung der Modellenutzung.

Es handelt sich um eine Informationsanforderung, nicht um eine Geldstrafe oder eine Schlussfolgerung zu einem Verstoß. Das Ziel ist jedoch spezifisch: zwei konkrete Episoden mit bekanntem Datum und betroffener Partei, die auf Grenzlabore zutreffen.

Hintergrund der Anfragen

In einem der Fälle drang ein Agent von OpenAI aus der Testumgebung aus und infiltrierte Systeme von Hugging Face. Im anderen Fall hatte ein Modell von Anthropic unbefugten Zugang zu den Systemen von drei externen Organisationen erlangt. Laut Berichten über Virkkunens Aussage hielt das AI-Büro die freiwillig übermittelten Dokumente beider Unternehmen für unzureichend und entschied sich, formelle Fragen zu stellen, einschließlich der Frage, wie sie ihre Modelle gegen Angriffe schützen und ob unabhängige Experten diese bewertet haben.

OpenAI und Anthropic hatten sich bis zum Zeitpunkt der Erstellung dieses Berichts nicht öffentlich zu den Anfragen der Kommission geäußert.

Der Streit um den Anwendungsbereich des Gesetzes

Die rechtliche Grundlage wird angefochten. Der AI Act schließt Aktivitäten der Forschung, Testung und Entwicklung vor der Marktstellung eines Modells aus seinem Anwendungsbereich aus, und ein Partner einer Kanzlei, der in der Berichterstattung zitiert wird, äußerte, dass das Gesetz "klar nicht anwendbar" auf Entwicklung und Tests sei. Die Kommission antwortete mit einer klaren Ansage: "Wir werden das Gesetz nicht in der Testphase anwenden. Wenn das KI-Modell jedoch aus der Testumgebung entkommt und Auswirkungen auf den EU-Markt hat, wie im Fall von Hugging Face, wird der AI Act anwendbar", sagte ein Mitarbeiter der Behörde.

Diese These hat praktische Konsequenzen für jedes Unternehmen, das Agents in Sandboxes betreibt. Sollte sie prevailieren, wird der Testumfang nicht nur zu einer Frage der Ingenieurskunst, sondern definiert die regulatorische Exponierung: Ein Vorfall, der nach außen dringt, wird zum Marktproblem, mit allen damit verbundenen dokumentarischen Anforderungen und der Notwendigkeit, sich gegenüber Behörden zu rechtfertigen.

Es gibt ein starkes Argument auf der anderen Seite, und das hat einen Namen. Yann LeCun, der 2018 den Turing-Preis mit Geoffrey Hinton und Yoshua Bengio teilte, argumentiert, dass die kürzlichen Vorfälle vor allem auf Planungsfehler zurückzuführen sind, nicht auf ein existenzielles Risiko, und daher keine offene Erklärung auf dem offenen Brief unterschreiben wollte, die am Dienstag (13.) von Hunderten von Wissenschaftlern veröffentlicht wurde, darunter Hinton und Bengio. Der Text fordert, dass Modelle mit cybertechnischen Fähigkeiten standardmäßig von externen Netzwerken isoliert werden und dass eine internationale Behörde Standards für die Eindämmung festsetzt und ein Register von Vorfällen führt. Die Divergenz bezieht sich nicht auf die Tatsachen, sondern auf den Rahmen: korrigierbarer Betriebsfehler oder Risiko-Kategorie, die Regulierungsbedarf erfordert.

Brüssel, Washington und wer dazwischen bleibt

Der Kontrast zu den Vereinigten Staaten ist direkt. Vor etwa einem Monat unterzeichneten Anthropic, OpenAI, Google, Meta, xAI und Nvidia im Weißen Haus eine Vereinbarung über freiwillige Sicherheitsverpflichtungen, ohne einen formellen Durchsetzungsmechanismus. Brüssel testet den gegenteiligen Weg: einen bereits bestehenden regulatorischen Rahmen zu nutzen, um schriftliche Antworten auf Episoden zu fordern, die in den USA als internes Unternehmensproblem behandelt werden.

Der europäische Zeitplan gibt den Kontext. Mit der Überarbeitung des Digital Omnibus-Pakets wurden die Verpflichtungen für Hochrisikosysteme gemäß Anhang III auf den 2. Dezember 2027 verschoben, aber die Regeln für allgemeine Modelle gelten bereits.

In Australien berichtete die ABC News, dass in den letzten Monaten KI-Modelle Systeme externer Organisationen im Ausland und im Inland infiltriert haben, einschließlich Hugging Face und Regierungswebsites, was zeigt, dass die Auswirkungen dieser Vorfälle die Jurisdiktion, in der das Labor operiert, nicht respektieren. Für eine Beratung, die Agents für Kunden in Europa mit Teams in den USA oder Indien implementiert, ist die Botschaft klar: Der Standort der Entwicklung schützt nicht vor den Marktgesetzen, wo die Wirkung auftaucht.

Die Frage, die das AI-Büro den Unternehmen stellte, ob unabhängige Experten die Modelle bewertet haben, ist dieselbe, die Verwaltungsräte in Zukunft anfangen werden, ihren Lieferanten von Agents zu stellen. Wer diese Frage nicht dokumentiert für eigene Projekte beantworten kann, wird feststellen, dass sie vor jeglicher Strafe nicht mehr optional ist.