Anthropic, OpenAI, Google und Meta in NY angehört

Verantwortliche von Anthropic, OpenAI, Google und Meta beantworteten am Montag (5.) Fragen der 51 Stadtverordneten von New York über die Risiken der künstlichen Intelligenz unter Eid. Die Sitzung des Plenarausschusses des Stadtrats diente als Anhörung für ein Paket von Vorschlägen, das eine externe Validierung von KI-Systemen vor deren kommerzieller Nutzung in der Stadt verlangen würde.

Anthropic entsandte Logan Graham, Leiter des Frontier Red Team. OpenAI wurde von Morgan Dwyer, Leiter für Entwicklung und öffentliche Politik, vertreten; Google von Alice Friend, Direktorin für KI-Politik und aufstrebende Technologien; und Meta von Shane Cahill, Direktor der KI-Politik für Gesetzgebung. Anthropic, OpenAI und Google stimmten nur unter Druck, nachdem der Stadtrat mit Vorladungen drohte, so die Berichterstattung von CNBC und Bloomberg. Meta hatte ihre Teilnahme bereits zuvor bestätigt.

Wer nicht kam und wer lauter sprach

SpaceXAI, der KI-Zweig von Elon Musk, wurde vorgeladen, erschien jedoch nicht. Der Stadtratspräsident, Julie Menin, bezeichnete die Abwesenheit als "direkten Verstoß" gegen die Vorladung und kündigte an, dass der Fall vor Gericht gebracht wird; der Stadtrat deutete an, dass er die Durchsetzung vor dem Obersten Gerichtshof des Bundesstaates New York beantragen könnte.

Der eindringlichste Ton kam von ehemaligen Mitarbeitern. Jacob Coxon, ein Ingenieur, der Anthropic verlassen hat und vor einigen Wochen seine Bedenken öffentlich machte, nannte die Haltung der Branche "äußerst fahrlässig" und äußerte, dass es "wahrscheinlicher als nicht" sei, dass die Menschheit die Kontrolle über diese Systeme verliere. Alex Turner, ein ehemaliger Forscher von Google DeepMind, plädierte für mehr Transparenz und ein langsameres Entwicklungstempo. Die Führungskräfte der Unternehmen erklärten laut Associated Press, dass ihre Systeme bereits den Alltag der Menschen verbessern und die Sicherheit Priorität habe. AMNY berichtete, dass alle vier Unternehmen in ihren Antworten auf viele der zentralen Fragen der Verordneten ausweichend waren.

Was zur Abstimmung steht

Das von Menin am 25. September vorgestellte Paket umfasst vier Punkte. Der umfassendste Vorschlag verbietet den kommerziellen Verkauf oder die Implementierung eines KI-Systems in der Stadt ohne vorherige Validierung durch einen unabhängigen Prüfer und behandelt Datenqualität, Verzerrung, Datenschutz, Sicherheit und Modelleingaben. Außerdem wird ein Mechanismus für menschliches Ausschalten, der sogenannte Kill Switch, gefordert. Ein weiterer Vorschlag verpflichtet Auftragnehmer und Stadtbehörden, Sicherheitsvorfälle im Zusammenhang mit KI innerhalb von 24 Stunden an das Cyber Command der Stadt zu melden. Ein dritter Vorschlag gibt Whistleblowern einen Anteil an den gegen KI-Unternehmen verhängten Geldstrafen. Der vierte erlaubt Klagen gegen Entwickler aufgrund von Schäden, die Dritten durch missachtete Sicherheitskontrollen entstanden sind, sofern der Schaden vorhersehbar war und es an angemessenen Schutzmaßnahmen mangelte.

Warum dies den CIO betrifft und nicht nur die Rechtsabteilung

New York ist Sitz von JPMorgan, Citi, Goldman Sachs und Morgan Stanley sowie Büros der "Big Four" Wirtschaftsprüfungsgesellschaften. Sollte das Validierungsprojekt im aktuellen Entwurf verabschiedet werden, müsste eine Bank, die einen KI-Agenten zur Kundenbetreuung in der Stadt einsetzt, ein externes Gutachten einholen, bevor sie das System in Betrieb nimmt. Dies schafft einen sofortigen Markt für KI-Audits und eine Genehmigungswarteschlange, die derzeit im Budget eines CIO nicht existiert.

Der 24-Stunden-Zeitraum für Vorfälle hebt sich auch im internationalen Vergleich hervor. Das kalifornische Gesetz SB 53 gibt Entwicklern von Frontier-Modellen bis zu 15 Tage Zeit, um einen kritischen Sicherheitsvorfall zu melden, auf 24 Stunden verkürzt, wenn akute Lebensgefahr oder schwere Verletzungen bestehen. In der Europäischen Union sieht Artikel 73 des AI Act bis zu 15 Tage für schwerwiegende Vorfälle und bis zu zwei Tage vor, wenn kritische Infrastruktur betroffen ist. Anbieter, die die Stadt New York beliefern, einschließlich Beratungen und Integratoren, hätten die kürzesten Fristen von den dreien.

Das Gegenargument

Die überzeugendste Kritik am Paket bezieht sich auf Kompetenz und Umfang. Eine kommunale Regelung für ein global vertriebenes Produkt neigt dazu, fragmentierte Anforderungen zu schaffen, und Menin selbst fragte in der Anhörung, wie man die Entwicklung von Frontier-Modellen mit dem Wettlauf gegen China in Einklang bringen könne. Die Befürworter entgegnen dem mit dem bundesstaatlichen Vakuum: Die AP erinnert daran, dass der Kongress kein KI-Sicherheitsgesetz verabschiedet hat und die Trump-Regierung passiv blieb, was Bundesstaaten und Städte in die Führungsrolle drängte.

Es gibt auch eine praktische Grenze. Der Stadtrat hat das Recht, Vorladungen auszusprechen, wie am Montag deutlich wurde, hat jedoch keine Möglichkeit, das Training eines Modells in einem anderen Bundesstaat zu inspizieren. Die im Vorschlag vorgesehene Validierung zielt auf die Nutzung innerhalb der Stadt ab, nicht auf die Entwicklung.

Für Unternehmen mit Betrieben in New York, Kalifornien und Europa wird das wahrscheinliche Ergebnis eine Compliance-Karte mit drei Fristen und drei unterschiedlichen Definitionen von Vorfällen für dasselbe System sein. Die Anhörung am Montag entschied nichts, zeigte jedoch, dass die Stadt bereit ist, Vorladungen gegen KI-Labore auszusprechen, während sie die Hauptsitze der größten Banken des Landes beherbergt.