Kalifornien verlangt menschliche Prüfung von KI-Entlassungen

Der Gouverneur von Kalifornien, Gavin Newsom, hat am Mittwoch (30.) ein Gesetzespaket unterzeichnet, das die Nutzung von Künstlicher Intelligenz (KI) bei arbeitsrechtlichen Entscheidungen im Bundesstaat, der die Hauptsitze von Apple, Google, Nvidia, OpenAI und Anthropic beherbergt, einschränkt. Am auffälligsten ist das Gesetz SB 947, auch bekannt als No Robo Bosses Act, das es Arbeitgebern verbietet, ausschließlich automatisierte Systeme für Entlassungen oder Disziplinarmaßnahmen zu verwenden.

"KI sollte Chancen erweitern, nicht auf dem Rücken von Arbeitern und Familien gehen", sagte Newsom in einer Erklärung, berichtet die Associated Press. "Während diese Technologie den Arbeitsplatz umgestaltet, stellt Kalifornien die Menschen in den Mittelpunkt."

Drei Regeln für das Personalwesen

Die SB 947 verlangt, dass, wenn der Arbeitgeber sich hauptsächlich auf das Ergebnis eines KI-Systems für Entlassungen oder Sanktionen stützt, ein menschlicher Prüfer die Entscheidung mit weiteren Informationen, wie Leistungsbeurteilungen von Vorgesetzten, Bewertungen von Kollegen und der Arbeitshistorie, bestätigt. Der betroffene Arbeitnehmer muss schriftlich über die verwendeten Daten des Systems informiert werden sowie einen menschlichen Ansprechpartner erhalten, der die Entscheidung erläutern kann. Newsom hatte im Oktober 2025 eine frühere und weiter gefasste Version, die SB 7, abgelehnt, die er als zu weitreichend bezeichnete. Die SB 947 tritt am 1. Juli 2027 in Kraft.

Die SB 951 von Senatorin Eloise Gómez Reyes ändert die Cal/WARN, das staatliche Gesetz über die Vorankündigung von Massenentlassungen. Wenn die Entlassungen ganz oder teilweise durch KI oder andere Automatisierung verursacht werden, muss die Mitteilung oben den Satz "Diese Mitteilung betrifft eine technologische Verdrängung" enthalten, sowie die Anzahl der betroffenen Stellen, die Funktionen, die automatisiert werden, und die Art des Systems, das die Verdrängung verursacht hat. Diese Regel tritt laut juristischen Analysen des Gesetzes am 1. Januar 2027 in Kraft.

Die AB 1883 verbietet Überwachungstools, die KI zur Erkennung, Ableitung oder Vorhersage des emotionalen Zustands eines Mitarbeiters oder zur Sammlung von "neuralen Daten" verwenden.

Die wichtige Nebenwirkung für den Vorstand

Die SB 951 macht zur Pflicht, was bisher kaum ein amerikanisches Unternehmen angeben musste: ein öffentliches, vom Arbeitgeber unterzeichnetes Register, wie viele Arbeitsplätze wegen KI abgebaut wurden. New York nahm 2025 eine ähnliche Frage in sein Meldeformular auf, und in einem Jahr gab kein Unternehmen einen Abbau durch Automatisierung an. Darüber hinaus ist die Zuordnung freiwillig und hängt vom Publikum ab. Das britische Unternehmen Legal & General kündigte am 23. September rund tausend Entlassungen bis Mitte 2027 an, was etwa 10 % der Belegschaft ausmacht, und der CEO António Simões erklärte, dass der Konzern "zu komplex" geworden sei, ohne die Entscheidung auf die Automatisierung zu beziehen.

Ab 2027 wird ein Unternehmen, das Investoren mitteilt, dass KI die Personalkosten senken wird und dann in Kalifornien Teams ohne Hinweis auf technische Verdrängung abbaut, Fragen ausgesetzt sein. Das Gesetz schafft zwar keine Strafe für die Darstellung, erzeugt jedoch ein Dokument, das mit dieser verglichen werden kann.

Die gleiche Frage in drei Jurisdiktionen

In der Europäischen Union klassifiziert das AI-Gesetz bereits Systeme, die zur Rekrutierung, Beförderung, Entlassung und Überwachung von Mitarbeitern verwendet werden, als hochriskant, mit Anforderungen an menschliche Aufsicht und technische Dokumentation, die in den kommenden Jahren greifen. Kalifornien geht einen anderen Weg, indem es die Nutzung durch den Arbeitgeber und nicht den Anbieter des Systems reguliert, aber das praktische Ergebnis konvergiert: Ein multinationales Unternehmen mit Betrieb in beiden Märkten muss nachweisen, dass ein Mensch die Entscheidung geprüft hat.

In Brasilien listet das PL 2338/2023, das der Senat im Dezember 2024 verabschiedete und über das die Abgeordnetenkammer noch nicht abgestimmt hat, ebenfalls Systeme, die in der Rekrutierung, Bewertung und Entlassung von Arbeitnehmern eingesetzt werden, unter den hochriskanten auf. Für Beratungsunternehmen und BPOs mit großen Niederlassungen im Land, die Dienstleistungen für kalifornische Kunden anbieten, wird die Frage nicht nur lokal: Das Leistungsmanagementsystem, das in Campinas oder Recife verwendet wird, kann die Entscheidung über einen Arbeitnehmer in San Jose beeinflussen, und die Audit-Trail muss die Grenze überschreiten.

Indien kommt von der Angebotsseite ins Spiel. Die Lieferzentren von TCS, Infosys, Wipro und Cognizant betreuen HR- und Payroll-Prozesse für amerikanische Unternehmen. Wenn die SB 951 verlangt, dass die Mitteilung angibt, welche Funktionen automatisiert wurden, muss die Automatisierung, die in Bangalore oder Pune durchgeführt wird, um Teams in Kalifornien zu ersetzen, vom Kunden genau beschrieben werden, und der Anbieter wird aufgefordert, zu dokumentieren, was er geliefert hat.

Die Grenzen des Pakets

Die Gewerkschaften wollten mehr. Ein Bericht von CalMatters fasste die Sanktion so zusammen, dass Newsom der Arbeiterbewegung "nur einen Teil dessen gegeben hat, was gefordert wurde". Die Gesetze verbieten nicht, dass KI-Entlassungen verursacht, noch erheben sie zusätzliche Kosten: Sie verlangen menschliche Überprüfung, Transparenz und Benachrichtigung. Für einen Vorstand, der plant, mit Automatisierung Stellen abzubauen, bedeutet dies, dass die Entscheidung weiterhin erlaubt ist, aber schriftliche Spuren hinterlassen wird.