EU KIDS Act: KI-Chatbots für unter 13-Jährige verboten
Die EU-Kommission schlug am 17. September den EU KIDS Act vor, der KI-Chatbots für unter 13-Jährige verbietet und verlangt, dass virtuelle Begleiter standardmäßig für Nutzer unter 18 Jahren deaktiviert werden, mit Geldstrafen von bis zu 6% des weltweiten Umsatzes.
Die Europäische Kommission hat am 17. September den EU KIDS Act vorgestellt, ein Regelungspaket, das den Zugang von Personen unter 13 Jahren zu Chatbots der künstlichen Intelligenz einschränkt und Plattformen verpflichtet, die sogenannten virtuellen Begleiter standardmäßig für alle Nutzer unter 18 Jahren zu deaktivieren. Der Vorschlag wurde von Ursula von der Leyen am folgenden Tag nach ihrer Rede zur Lage der Europäischen Union, zusammen mit Henna Virkkunen, der Exekutiv-Vizepräsidentin für Technologische Souveränität, angekündigt. Unternehmen, die gegen diese Regeln verstoßen, sind mit Geldstrafen von bis zu 6% des jährlichen globalen Umsatzes konfrontiert. Der Rat der Europäischen Union hat den Vorschlag am 18. September formal in einem Dokument registriert und den Verhandlungsprozess mit den Mitgliedstaaten eröffnet.
Was das Gesetz verbietet
Die Liste der Einschränkungen geht über die Altersgrenze hinaus. Plattformen mit Chatbots, die darauf ausgelegt sind, emotionale Bindungen zu entwickeln, dürfen das System nicht ermöglichen, um zwischenmenschliche Beziehungen zu simulieren, die emotionale Abhängigkeit bei Nutzern unter 18 Jahren hervorrufen könnten. Auch die Speicherung von Erinnerungen zwischen getrennten Sitzungen ist verboten, wenn der Nutzer minderjährig ist. Der Kern der Regelung steht in direktem Konflikt mit dem aktuellen Design von Character.AI und Replika, Plattformen, die emotionale Persistenz als ihr eigenes Produkt anbieten.
Die Online-Plattformen von sehr großer Dimension, die jede Dienstleistung mit über 45 Millionen Nutzern in der EU umfasst, müssen der Kommission 30 Tage vor der Einführung von Funktionen, die Kinder betreffen, Compliance-Pläne vorlegen. Dieses Verfahren kehrt die Beweislast um, die unter dem Digital Services Act galt: Die Unternehmen müssen nachweisen, dass ihre Produkte sicher sind, bevor sie eingeführt werden, nicht der Regulierer, der den Schaden nachweisen muss. "Von nun an müssen die größeren Plattformen detaillierte, vorab abgestimmte Pläne vorlegen, um die Sicherheit der Kinder zu gewährleisten, anstatt dass die Behörden den verursachten Schaden nachweisen müssen", erklärte von der Leyen bei der Vorstellung.
Wer im Visier ist
Der Text nennt explizit Facebook, Instagram, YouTube, TikTok, Snap, X, ChatGPT, Character.AI und Replika. Die Aufsichtskosten, die die Durchsetzungskosten abdecken, betragen 0,03% des jährlichen globalen Umsatzes, kumulativ zur Geldstrafe von 6%. Für global tätige Unternehmen stellen die beiden Beträge zusammen finanzielle Risiken dar, die vergleichbar sind mit den Geldstrafen, die im Zusammenhang mit der DSGVO in den Vorjahren auf große Plattformen angewendet wurden.
Virkkunen ließ keinen Raum für Zweifel über die Gründe für die verbindliche Regelung: "Wir haben festgestellt, dass die Plattformen die freiwilligen Normen sehr langsam umsetzen. Wir machen sie jetzt verbindlich." Diese Aussage fasst das Urteil zusammen, das die Kommission aus drei Jahren der Selbstregulierung unter dem DSA gezogen hat: selektive Zusammenarbeit ohne strukturelle Veränderungen an den Produkten.
Die Lesart über die EU hinaus
Für US-amerikanische Unternehmen kommt der KIDS Act ohne entsprechendes föderales Pendant in vergleichbarer Tiefe. Der Children's Online Privacy Protection Act schützt unter 13-Jährige im Kontext der Datenerhebung, legt jedoch keine vergleichbaren Design- oder Funktionsbeschränkungen fest. Dies schafft in der Praxis zwei parallele Regime für Unternehmen wie OpenAI und Meta: ein Datenregime und ein weiteres, das nun entsteht, welches die Architektur der Produkte regelt. Jede Aktualisierung von ChatGPT oder Instagram, die Minderjährige betrifft, benötigt eine vorherige Genehmigung der Kommission, bevor sie den europäischen Nutzern zugänglich gemacht wird.
Im Vereinigten Königreich hat das Online Safety Act von 2023 bereits Anforderungen an die Altersverifizierung für Dienste mit Erwachsenen-Inhalten und soziale Netzwerke auferlegt. Das britische Pendant für KI-Begleiter existiert jedoch noch nicht. Mit dem KIDS Act, der in der EU in Bearbeitung ist, dürfte der politische Druck auf Westminster zunehmen, eine kompatible Gesetzgebung zu schaffen, insbesondere da Unternehmen mit integrierten Operationen zwischen dem Block und dem Vereinigten Königreich unterschiedliche Produktarchitekturen aufrechterhalten müssen, wenn die beiden Jurisdiktionen nicht konvergieren.
Das Gesetzesvorhaben wird noch Monate lang mit dem Rat und dem Europäischen Parlament verhandelt werden, bevor es in Kraft tritt. Das Europäische Parlament hatte sich bereits im November 2025 vorweggenommen: die Kammer hatte eine Resolution angenommen, die ein Verbot von sozialen Netzwerken für unter 16-Jährige forderte, was über der von der Kommission nun vorgeschlagenen Altersgrenze von 15 Jahren liegt. Die interne Divergenz im europäischen Gesetzgebungsprozess deutet darauf hin, dass der endgültige Text in einigen Punkten strenger ausfallen wird. Die politische Tatsache, die bereits jetzt ablesbar ist, findet sich nicht im endgültigen Text: sie zeigt sich in der Wahl des Begleit-Chatbots als Testfall, um nachzuweisen, dass eine ex ante Regulierung von KI umsetzbar ist. Sollte der KIDS Act ohne größere Änderungen in Kraft treten, wird das Modell der vorherigen Genehmigung für Funktionen, das er etabliert, zukünftige Überarbeitungen des AI Act für Produkte, die für Erwachsene gedacht sind, beeinflussen.