Accenture als AI-Prüfer bei Anthropic, je 1 Milliarde USD
Anthropic wählte Accenture als ersten eingebetteten AI-Prüfer aus, mit einem finanziellen Engagement von jeweils 1 Milliarde USD über fünf Jahre. Die Faculty-Abteilung erhält Mitarbeiterzugang für Red-Teaming der Modelle.
Anthropic gab am 18. September bekannt, dass Accenture als erster externer eingebetteter Prüfer ausgewählt wurde, mit einem Engagement von mindestens 1 Milliarde USD von jeder der beiden Firmen über einen Zeitraum von fünf Jahren. Die Faculty-Abteilung, die auf angewandte KI spezialisiert ist, erhält Mitarbeiterebenen-Zugang, um Red-Teaming von Modellen, Auswertungen der Ausrichtung und Tests von Sicherheitsvorkehrungen direkt in den Räumlichkeiten von Anthropic durchzuführen.
Die Partnerschaft ist der erste bekannte Fall, in dem ein etabliertes Beratungsunternehmen strukturellen Zugang zum internen Entwicklungszyklus von fortschrittlichen KI-Modellen erhält, nicht als Projektanbieter, sondern als permanenter Teilnehmer am Sicherheitsprozess.
Was die Faculty bei Anthropic tun wird
Das Team der Faculty wird mit Mitarbeitercredentials arbeiten, was Zugang zu Modellen in der Entwicklungsphase vor der Markteinführung umfasst, laut der Mitteilung der beiden Unternehmen. Der Umfang umfasst Red-Teaming von Modellen, Auswertungen der Ausrichtung und Tests von Sicherheitsvorkehrungen.
Die Faculty hat Erfahrung in der Durchführung ähnlicher Bewertungen für andere Labs für fortschrittliche KI. Was die Vereinbarung mit Anthropic unterscheidet, ist das Ausmaß des finanziellen Engagements und die Art des Zugangs, der über punktuelle Verträge hinausgeht und eine permanente Präsenz im Labor schafft. Das Programm wird direkt von Anthropic finanziert, das die Arbeit des eingebetteten Teams unterstützt.
Amodeis Plan zur Verlangsamung der Entwicklung
Anthropic rahmt die Partnerschaft als ersten Schritt eines dreistufigen Plans des CEOs Dario Amodei zur Verlangsamung des Entwicklungstempos von fortschrittlicher KI. Amodei hat die anderen beiden Schritte nicht öffentlich detailliert, doch die Mitteilung deutet darauf hin, dass in den kommenden Wochen weitere externe Prüfer bekanntgegeben werden.
Die gemeinnützige Organisation METR mit Sitz in Berkeley befindet sich in Gesprächen mit Anthropic, um als zweiter Prüfer in einer Pilotphase teilzunehmen. Das Programm ist nicht exklusiv: Anthropic signalisiert, dass es plant, kommerzielle Unternehmen wie Accenture mit unabhängigen Forschungseinrichtungen zu kombinieren, um sowohl die operationale Skalierung als auch die akademische Glaubwürdigkeit zu gewährleisten.
Der Kontext ist wichtig, da KI-Labs in der Kritik stehen, Sicherheitsbewertungen intern ohne externe Verifikationsmechanismen durchzuführen. Die Wahl eines Prüfers mit kommerzieller Skalierbarkeit ist absichtlich: Die Faculty kann mit dem Launchrhythmus von Modellen Schritt halten, etwas, das kleinere akademische Organisationen nur schwer tun können.
Was sich für die globale Beratung ändert
Accenture verkauft keine Dienstleistungen an ein KI-Unternehmen. Sie wird zu einem strukturellen Teilnehmer in dem Prozess, durch den fortschrittliche Modelle auf den Markt kommen. Diese Unterscheidung hat direkte Auswirkungen auf die Branche.
Ein Unternehmen mit Zugang zu vorab veröffentlichten Modellen von Anthropic sammelt Kenntnisse über zukünftige Fähigkeiten Wochen oder Monate vor jedem Konkurrenten. Für den KI-Servicebereich von Accenture bedeutet dies einen direkten Vorteil gegenüber Capgemini, TCS und Infosys, die keinen gleichwertigen Zugang zu einem fortschrittlichen Labor haben.
Das bilaterale Engagement von je 1 Milliarde USD strukturiert die Vereinbarung als langfristige Joint Venture, nicht als Projekt. Sollte sich das Modell als funktional erweisen, ist es plausibel, dass andere Labs eingebettete Prüfer mit ähnlichem Profil suchen, wodurch ein neues Segment innerhalb der KI-Beratung geschaffen wird.
Zwei Geografien, ein entstehender Standard
Im Vereinigten Königreich wurde die Faculty gegründet und arbeitete als Referenz für angewandte KI im britischen öffentlichen und privaten Sektor, bevor sie von Accenture übernommen wurde. Die Vereinbarung mit Anthropic bringt Teams mit Sitz in London ins Zentrum des Sicherheitsprozesses eines der bedeutendsten amerikanischen Labs und signalisiert, dass das Vereinigte Königreich in der Wertschöpfungskette der KI-Governance weiterhin an Bedeutung gewinnt, selbst ohne eine vergleichbare innere Regulierung wie den EU AI Act.
In der Europäischen Union verlangt der AI Act Compliance-Bewertungen für Hochrisiko-KI-Systeme. Das Modell, das Anthropic freiwillig in den USA entwickelt, mit eingebetteten Prüfern und strukturellem Zugang zu vorab veröffentlichten Modellen, ist strenger als das, was die europäische Gesetzgebung derzeit vorschreibt. Periodische Audits ohne permanente Präsenz sind das aktuelle Mindestmaß der europäischen Regulierung. Sollte sich diese Praxis in amerikanischen Labs etablieren, wird der Ausschuss unter Druck geraten, die Anforderungen des AI Act zu überarbeiten.
Die Vereinbarung zeigt, wo der Sicherheitsstandard für KI tatsächlich definiert wird: durch private Initiative, mit milliardenschwerer Finanzierung, bevor irgendein globaler Regulierer einen Konsens darüber erreicht hat, was zu prüfen ist. Der Regulierer, der diesem Tempo nicht folgt, wird spät am Tisch erscheinen.