EU KIDS Act: chatbots de IA proibidos para menores de 13 anos

A Comissão Europeia apresentou, em 17 de setembro, o EU KIDS Act, pacote regulatório que veda o acesso de menores de 13 anos a chatbots de inteligência artificial e obriga plataformas a desativar por padrão os chamados companheiros virtuais para qualquer usuário com menos de 18 anos. Anunciado por Ursula von der Leyen no dia seguinte ao seu discurso sobre o Estado da União Europeia, ao lado de Henna Virkkunen, vice-presidente executiva para Soberania Tecnológica, o pacote coloca companhias que descumprirem as regras no alcance de multas de até 6% do faturamento anual global. O Conselho da União Europeia registrou formalmente a proposta em documento publicado em 18 de setembro, abrindo o processo de negociação com os estados-membros.

O que a proposta proíbe

A lista de vedações vai além do corte etário. Plataformas com chatbots configurados para criar relações afetivas ficam proibidas de permitir que o sistema simule vínculos interpessoais capazes de gerar dependência emocional em usuários com menos de 18 anos. A retenção de memórias entre sessões separadas, quando o usuário for menor, também está vedada. A raiz da norma conflita diretamente com o design atual da Character.AI e da Replika, plataformas que tornaram a persistência emocional o próprio produto.

As Plataformas Online de Muito Grande Dimensão, categoria que engloba qualquer serviço com mais de 45 milhões de usuários na UE, devem apresentar à Comissão planos de conformidade 30 dias antes de lançar qualquer recurso que afete crianças. Esse mecanismo inverte o ônus da prova que prevalecia sob o Digital Services Act: cabe às empresas provar que seus produtos são seguros antes do lançamento, não ao regulador demonstrar o dano após o fato. "De agora em diante, caberá às maiores plataformas apresentar planos detalhados antecipados para garantir a segurança das crianças, em vez de as autoridades terem de provar o dano causado", afirmou von der Leyen na apresentação.

Quem está na mira

O texto cita explicitamente Facebook, Instagram, YouTube, TikTok, Snap, X, ChatGPT, Character.AI e Replika. A taxa de supervisão que cobre o custo de enforcement chega a 0,03% das vendas globais anuais, cumulativa à multa de 6%. Para empresas de escala global, os dois valores somados representam riscos financeiros de magnitude comparável às multas do GDPR aplicadas a grandes plataformas nos anos anteriores.

Virkkunen não deixou margem para dúvida sobre a razão de tornar as regras vinculantes: "Notamos que as plataformas estão implementando as normas voluntárias de forma muito lenta. Estamos agora tornando-as obrigatórias." A frase resume o diagnóstico que a Comissão fez dos três anos de autorregulação sob o DSA: cooperação seletiva, sem mudança estrutural nos produtos.

A leitura além da União Europeia

Para empresas norte-americanas, o KIDS Act chega sem equivalente federal de mesma amplitude. O Children's Online Privacy Protection Act protege menores de 13 anos no contexto de coleta de dados, mas não estabelece obrigações de design ou limitação funcional comparáveis. Isso cria, na prática, dois regimes paralelos para companhias como OpenAI e Meta: um regime de dados e um segundo, agora emergente, que regula a arquitetura dos produtos. Qualquer atualização do ChatGPT ou do Instagram que afete menores precisará de aprovação prévia da Comissão antes de chegar aos usuários europeus.

No Reino Unido, o Online Safety Act de 2023 já impôs obrigações de verificação de idade para serviços de conteúdo adulto e redes sociais. O equivalente britânico para companheiros de IA, porém, ainda não existe. Com o KIDS Act em tramitação na UE, a pressão política sobre Westminster para criar legislação compatível tende a crescer, sobretudo porque empresas com operações integradas entre o bloco e o Reino Unido precisarão manter arquiteturas de produto divergentes se as duas jurisdições não convergirem.

A proposta ainda percorrerá meses de negociação com o Conselho e o Parlamento Europeu antes de entrar em vigor. O Parlamento Europeu, aliás, já havia se antecipado: em novembro de 2025, a câmara legislativa aprovara resolução pedindo proibição de redes sociais para menores de 16 anos, acima do limiar de 15 anos que a Comissão agora propõe. A divergência interna ao processo legislativo europeu indica que o texto final provavelmente endurecerá em alguns pontos. O dado político que já pode ser lido agora não está no articulado final: está na escolha do chatbot companheiro como caso de teste para demonstrar que regulação ex ante de IA é operacionalizável. Se o KIDS Act chegar a lei sem grandes modificações, o modelo de aprovação prévia de funcionalidades que ele cria deverá informar revisões futuras do AI Act voltadas a produtos destinados a adultos.