PL 2338: Brasil fortschritt bei der Regulierung von KI und was sich für Technologieunternehmen ändert
Im Dezember 2024 genehmigte der brasilianische Senat den PL 2338/2023, der den regulatorischen Rahmen für KI im Land festlegt. Im März 2025 wurde der Text an die Abgeordnetenkammer weitergeleitet. Das Gesetz verfolgt einen risikobasierten Ansatz mit drei Kategorien: übermäßiges Risiko (verboten), hohes Risiko (mit strengen Anforderungen) und andere Systeme (allgemeine Verpflichtungen). Die Auswirkungen für Entwickler und Betreiber sind unmittelbar und strukturell.
Am 10. Dezember 2024 genehmigte der brasilianische Bundes-Senat den Gesetzesentwurf 2338/2023, der die Regeln für die Entwicklung und Nutzung von Künstlicher Intelligenz in Brasilien festlegt. Am 17. März 2025 wurde der Text zur Überprüfung an die Abgeordnetenkammer weitergeleitet. Um Gesetz zu werden, benötigt es die Genehmigung der Kammer und die präsidentielle Sanktion.
Die brasilianische Verfahrensweise folgt, mit lokalen Anpassungen, der Logik des EU AI Act: ein risikobasierter Ansatz, der Innovation nicht pauschal blockiert, sondern proportionale Verpflichtungen im Hinblick auf die Schwere der potenziellen Auswirkungen jedes Systems auferlegt.
Die Risikostruktur
Übermäßiges Risiko: Systeme, die aufgrund ihres Potenzials, grundlegende Rechte nachhaltig zu verletzen, verboten sind. Der Text nannte als Beispiele umfassende soziale Bewertungssysteme, die zivile Rechte beeinflussen, subliminale Verhaltensmanipulation und die Ausnutzung von Verwundbarkeiten bestimmter Gruppen für schädliches Verhalten.
Hohes Risiko: Systeme, die sensible Bereiche wie kritische Infrastruktur, Bildung, Beschäftigung, Kredit, Gesundheit, essentielle Dienstleistungen, Gerichtsverfahren und Strafverfolgung betreffen. In diesen Fällen müssen Entwickler und Betreiber detaillierte Dokumentationen zur Risikobewertung führen, menschliche Aufsicht implementieren, die Nachvollziehbarkeit automatisierter Entscheidungen gewährleisten, Mechanismen zur Berichterstattung über Vorfälle etablieren und mit Behörden bei Audits zusammenarbeiten.
Nicht als hohes Risiko klassifizierte Systeme: unterliegen allgemeinen Verpflichtungen zur Transparenz, einschließlich der Verpflichtung, den Benutzer darüber zu informieren, dass er mit einem KI-System interagiert, wenn dies im Kontext nicht offensichtlich ist.
Die Auswirkungen auf Unternehmen
Für KI-Entwickler umfassen die Anforderungen die Dokumentation der Architektur, der Trainingsdaten, von Maßnahmen zur Minderung von Verzerrungen und von Testverfahren vor jeder Bereitstellung in Hochrisikobereichen. Für Betreiber könnte die Verpflichtung zur menschlichen Aufsicht eine Überprüfung von Prozessen erfordern, die derzeit vollständig automatisiert sind.
Die Auswirkungen für Start-ups sind überproportional größer. Während große Unternehmen die Kosten für die Einhaltung als Teil ihrer bestehenden regulatorischen Abläufe absorbieren, müssen Start-ups, die KI für Gesundheit, Kredit oder Beschäftigung entwickeln, erhebliche Ressourcen für Dokumentation und Governance bereitstellen, bevor sie skalieren können.
Die internationale Relevanz
Brasilien ist der größte Markt in Lateinamerika und hat diplomatische Gewicht in der Schaffung internationaler Standards für die Governance von KI. Das brasilianische Gesetz, sobald es verabschiedet ist, wird als Referenz für Länder der Region dienen, die über keine spezifische Gesetzgebung verfügen, darunter Kolumbien, Argentinien und Chile. Für Unternehmen mit Aktivitäten in mehreren Ländern Lateinamerikas bedeutet dies, dass die Einhaltung des brasilianischen Rahmens ein Ausgangspunkt und kein Obergrenze ist.
Die Genehmigung in der Kammer sollte genau verfolgt werden. Änderungen könnten den Umfang und die spezifischen Anforderungen des aktuellen Textes erheblich verändern.