EU KIDS Act: chatbots de IA prohibidos para menores de 13

La Comisión Europea presentó, el 17 de septiembre, el EU KIDS Act, un paquete regulatorio que prohíbe el acceso de menores de 13 años a chatbots de inteligencia artificial y obliga a las plataformas a desactivar por defecto los llamados compañeros virtuales para cualquier usuario menor de 18 años. Anunciado por Ursula von der Leyen al día siguiente de su discurso sobre el Estado de la Unión Europea, junto a Henna Virkkunen, vicepresidenta ejecutiva para la Soberanía Tecnológica, el paquete establece multas de hasta el 6% de la facturación anual global para las compañías que infrinjan las normas. El Consejo de la Unión Europea registró formalmente la propuesta en un documento publicado el 18 de septiembre, abriendo el proceso de negociación con los estados miembros.

Lo que la propuesta prohíbe

La lista de prohibiciones va más allá de la edad. Las plataformas con chatbots configurados para crear relaciones afectivas tienen prohibido permitir que el sistema simule vínculos interpersonales capaces de generar dependencia emocional en usuarios menores de 18 años. La retención de memorias entre sesiones separadas, cuando el usuario sea menor, también está vedada. La raíz de la norma entra en conflicto directamente con el diseño actual de Character.AI y Replika, plataformas que han hecho de la persistencia emocional su propio producto.

Las Plataformas Online de Muy Gran Dimensión, categoría que incluye cualquier servicio con más de 45 millones de usuarios en la UE, deben presentar a la Comisión planes de conformidad 30 días antes de lanzar cualquier recurso que afecte a niños. Este mecanismo invierte la carga de la prueba que prevalecía bajo la Ley de Servicios Digitales: corresponde a las empresas probar que sus productos son seguros antes del lanzamiento, no al regulador demostrar el daño después del hecho. "A partir de ahora, las mayores plataformas deberán presentar planes detallados por adelantado para garantizar la seguridad de los niños, en lugar de que las autoridades tengan que probar el daño causado", declaró von der Leyen en la presentación.

Quién está en la mira

El texto menciona explícitamente a Facebook, Instagram, YouTube, TikTok, Snap, X, ChatGPT, Character.AI y Replika. La tasa de supervisión que cubre el costo de enforcement alcanza el 0,03% de las ventas globales anuales, acumulativa a la multa del 6%. Para empresas de escala global, ambos valores sumados representan riesgos financieros de magnitud comparable a las multas del GDPR aplicadas a grandes plataformas en años anteriores.

Virkkunen no dejó margen para duda sobre la razón de hacer las reglas vinculantes: "Hemos notado que las plataformas están implementando las normas voluntarias de forma muy lenta. Ahora estamos haciendo que sean obligatorias." La frase resume el diagnóstico que la Comisión ha hecho de los tres años de autorregulación bajo la DSA: cooperación selectiva, sin cambio estructural en los productos.

La lectura más allá de la Unión Europea

Para las empresas estadounidenses, el KIDS Act llega sin un equivalente federal de igual amplitud. El Children's Online Privacy Protection Act protege a menores de 13 años en el contexto de recolección de datos, pero no establece obligaciones de diseño o limitación funcional comparables. Esto crea, en la práctica, dos regímenes paralelos para compañías como OpenAI y Meta: un régimen de datos y un segundo, ahora emergente, que regula la arquitectura de los productos. Cualquier actualización de ChatGPT o Instagram que afecte a menores necesitará aprobación previa de la Comisión antes de llegar a los usuarios europeos.

En el Reino Unido, la Ley de Seguridad Online de 2023 ya ha impuesto obligaciones de verificación de edad para servicios de contenido para adultos y redes sociales. Sin embargo, el equivalente británico para compañeros de IA aún no existe. Con el KIDS Act en tramitación en la UE, la presión política sobre Westminster para crear legislación compatible tiende a crecer, especialmente porque las empresas con operaciones integradas entre el bloque y el Reino Unido necesitarán mantener arquitecturas de producto divergentes si ambas jurisdicciones no convergen.

La propuesta aún recorrerá meses de negociación con el Consejo y el Parlamento Europeo antes de entrar en vigor. El Parlamento Europeo, de hecho, ya se había anticipado: en noviembre de 2025, la cámara legislativa aprobó una resolución pidiendo la prohibición de redes sociales para menores de 16 años, por encima del umbral de 15 años que la Comisión propone ahora. La divergencia interna en el proceso legislativo europeo indica que el texto final probablemente se endurecerá en algunos puntos. El dato político que ya puede leerse ahora no está en el articulado final: está en la elección del chatbot compañero como caso de prueba para demostrar que la regulación ex ante de IA es operacionalizable. Si el KIDS Act se convierte en ley sin grandes modificaciones, el modelo de aprobación previa de funcionalidades que crea deberá informar revisiones futuras de la Ley de IA orientadas a productos destinados a adultos.