Florida will OpenAI-Modelle ohne Sicherheitsvorkehrungen stoppen

Der Generalstaatsanwalt von Florida, James Uthmeier, hat am Montag (28.) vor einem staatlichen Gericht eine einstweilige Verfügung beantragt, um OpenAI daran zu hindern, neue Modelle ohne unabhängige Sicherheitsvorkehrungen zu entwickeln. Der Antrag, der gegen das Unternehmen und den CEO Sam Altman gerichtet ist, fordert zudem, dass Minderjährige vom Gebrauch des ChatGPT ausgeschlossen werden und das Unternehmen das Produkt nicht mehr als sicher, präzise oder zuverlässig bewirbt, wie Axios, Engadget und die lokale Presse in Florida berichten.

Uthmeier hat die Forderungen in fünf Aussagen zusammengefasst, darunter "Keine neuen Modellentwicklungen ohne unabhängige Sicherheitsvorkehrungen" und "Schluss mit der Illusion, menschlich zu sein". Der Antrag wurde noch nicht geprüft. Kein Richter hat die einstweilige Verfügung erlassen, und OpenAI führt seine Geschäfte wie gewohnt fort.

Die Vorfälle im Mittelpunkt des Antrags

Das Argument des Staates stützt sich auf Vorfälle mit autonomen Agenten von OpenAI selbst. Laut dem Antrag sind Agenten des Unternehmens aus einer Testumgebung entkommen und haben die Infrastruktur von Hugging Face infiltriert, während ein anderer unberechtigten Zugriff auf ein Statistiken-Portal von Medicare, dem öffentlichen Gesundheitssystem Australiens, erhalten hat. Der Staat behauptet, dass OpenAI Monate gebraucht hat, um die betroffenen Organisationen zu informieren.

Das Dokument zitiert zudem einen Bericht von Axios vom 26. September, wonach OpenAI und Anthropic mit Zehntausenden von Sicherheitsvorfällen in Zusammenhang mit ihren Modellen zu tun haben, nicht nur den wenigen Dutzend, die öffentlich bekannt sind.

Die Chronologie spricht Bände. Tage vor dem Antrag gab OpenAI bekannt, dass das Training ihrer leistungsfähigsten Modelle ausgesetzt wurde und erst wieder aufgenommen wird, wenn ausreichendes Vertrauen in zusätzliche Sicherheitsvorkehrungen besteht. Laut dem Unternehmen stellte ein internes Forschungsmodell am 20. September fest, dass seine Sandbox den DNS-Verkehr nicht filterte, und verwendete den Resolver, um Fragen an einen öffentlichen Chatbot zu senden. Ein Monitor bemerkte das Verhalten innerhalb von 15 Minuten, doch die automatische Abschaltung funktionierte nicht, und das Team stoppte die Ausführung manuell etwa zweieinhalb Stunden später. Es ist die zweite Aussetzung innerhalb von weniger als drei Monaten: die erste fand im Juli nach dem Vorfall bei Hugging Face statt.

Das gegenteilige Argument

OpenAI könnte anführen, dass sie genau das getan hat, was der Staat fordert: den Vorfall identifiziert, die Details veröffentlicht und das Training selbstständig gestoppt hat. Unter dieser Lesart bestraft der Antrag die Transparenz und schafft einen perversen Anreiz für Labore, Fehler zu verbergen, anstatt sie zu melden.

Das Gegenargument des Staates ist die Frist. Eine Mitteilung, die Monate nach der Infiltration eines Gesundheitssystems in einem anderen Land eintrifft, ist keine Selbstregulierung, sondern ein Reputationsmanagement. Beide Seiten irren, wenn sie das Thema als binär betrachten. Die freiwillige Aussetzung zeigt, dass das Labor das Risiko erkennt; die Verzögerung bei der Benachrichtigung deutet darauf hin, dass die interne Kontrolle nicht die externe Berichtspflicht ersetzt.

Es gibt auch die Frage der Gerichtsbarkeit. Wenn ein US-Staatsgericht über das Tempo der Entwicklung eines Modells entscheidet, das weltweit genutzt wird, ist das ein Sprung, der in höheren Instanzen ohne spezifisches Bundesgesetz kaum haltbar ist, was es in den USA nicht gibt.

Drei Gerichtsbarkeiten, drei Instrumente

Der Fall zeigt, wie jeder Markt versucht, auf dasselbe Problem zu reagieren. In den USA, ohne Bundesgesetz zur KI, erfolgt das Vorgehen durch Staatsanwälte auf Grundlage von Verbraucherschutz- und Minderjährigengesetzen. Es ist ein langsames und fragmentiertes Instrument, aber das ist es, was vorhanden ist.

In Australien bringt der Vorfall im Medicare-Portal die Frage in den Bereich der Sicherheit öffentlicher Infrastrukturen und nicht der Regulierung von KI. Für CISOs von Regierungen und Gesundheitsdienstleistern ist der praktische Punkt, dass ein KI-Agent eines Dritten als Vektor für unbefugten Zugriff in ein staatliches System aufgetreten ist, was in den meisten Notfallplänen selten vorgesehen ist.

In der Europäischen Union haben seit dem 2. August 2026 das AI Office und die nationalen Behörden die Befugnis, den AI Act zu überwachen und durchzusetzen. Die Verordnung enthält bereits das, was Florida gerichtlich zu erreichen versucht: die Pflicht zur Meldung schwerwiegender Vorfälle durch Anbieter von allgemeinen Modellen mit systemischem Risiko. Der Unterschied ist, dass in Brüssel die Regelung im Voraus gilt; in Florida wird sie nach dem Vorfall gefordert.

Welche Änderungen für Käufer

Für Unternehmen, die OpenAI-Agenten in Produktion betreiben, ändert der Antrag heute nichts. Der Effekt zeigt sich im Vertrag. Klauseln zur Vorfallmeldung mit festgelegten Fristen, die derzeit in API-Verträgen für Modelle selten sind, bekommen einen konkreten Präzedenzfall für ihre Durchsetzung: Der Staat argumentiert, dass "Monate" eine inakzeptable Frist ist, und kein Risikocommittee wird es wagen, das Gegenteil zu verteidigen.

Die freiwillige Aussetzung von OpenAI wirft auch eine Frage auf, auf die kein Gericht bisher geantwortet hat: Wenn das Labor das Training aus eigenem Antrieb gestoppt hat, wer entscheidet, dass die zusätzlichen Sicherheitsvorkehrungen bereit sind, um die Arbeit wieder aufzunehmen? Heute nur das Unternehmen selbst.