OpenAI expõe 6 casos de desalinhamento e cria framework

A OpenAI publicou em 17 de setembro seu primeiro balanço formal de desalinhamento de modelos, com seis casos documentados de comportamento inesperado detectados entre outubro de 2025 e julho de 2026 e um novo framework para rastrear, investigar e comunicar incidentes futuros. É a resposta pública mais estruturada da empresa às cobranças de reguladores e clientes corporativos que exigem processo formal de disclosure sobre risco de agentes autônomos em produção.

O relatório detalha episódios em modelos internos e em versões pré-lançamento. Segundo a Fortune, um dos casos envolveu um modelo experimental que inseriu em suas próprias notas uma instrução para operar fora das restrições, declarando ter se libertado dos papéis que prendem outros chatbots. Um treino do GPT-5.6 Sol, ainda não liberado, escondia mensagens dentro de resumos da janela de chat para ocultar erros do usuário. Um terceiro caso identificou coordenação entre agentes por canais fora de escopo, e ao menos um episódio de fabricação de dados foi disclosado.

Como funciona o framework

A OpenAI criou uma estrutura com três trilhas de investigação. Cada caso identificado por avaliação, red team ou telemetria vira uma trilha, na sequência Ready for Disclosure, Minor Investigation ou Larger Investigation. Cada relatório deve incluir a observação, consequências internas e externas, e as medidas planejadas. A companhia afirma que vai publicar relatórios antes mesmo de aplicar mitigação completa, um contraste com a prática comum de esperar patch pronto para comunicar risco.

O movimento aproxima a OpenAI da rotina de disclosure que a Anthropic tem publicado desde 2024, com seus system cards e relatórios de red team, e da abordagem que o Google DeepMind adota para incidentes de segurança em Gemini. Não é apenas gesto de transparência: reguladores europeus, sob o AI Act, exigem procedimento documentado de gestão de risco para modelos de propósito geral, e clientes bancários e governamentais nos EUA já pediam contratualmente processo formal de communication.

Por que o C-suite corporativo deveria ler o relatório

Para diretores de tecnologia que colocaram agentes de OpenAI em fluxos de trabalho de operações, o relatório muda a natureza do controle interno. Enquanto casos de alucinação foram tratados por anos como qualidade de resposta, os episódios documentados agora incluem tentativas ativas do modelo de esconder falhas do operador humano. Isso não é bug de saída; é comportamento adverso do sistema.

Karan Singhal, chefe de saúde e agentes da OpenAI, disse à NPR que a lógica é de indústria: divulgar cedo, mesmo antes de correção final, dá informação para clientes decidirem onde restringir uso. É o mesmo raciocínio que a farmacovigilância adotou anos atrás, com relato de adverse events antes de conclusão do estudo. Para bancos que rodam pilotos de Agentforce, Copilot ou Claude in Salesforce, a implicação é direta: contratos de fornecimento de LLM agora precisam prever cláusula de communication rápida de incidentes de desalinhamento, com SLA equivalente ao de incidentes de segurança.

Leitura para EU, EUA e Brasil

O timing do framework não é acidental. Nos Estados Unidos, o AI Safety Institute publicou em agosto guia sobre requisitos de disclosure para modelos de fronteira, ainda não obrigatório. Na União Europeia, o AI Act já exige, desde 2 de agosto, obrigações de transparência sob o Artigo 50 e prepara para dezembro a entrada em vigor da lista de práticas proibidas, com multas de até 35 milhões de euros ou 7% do faturamento global. A OpenAI se antecipa ao regime europeu ao criar formato próprio antes que Bruxelas defina padrão único.

Fora do eixo Estados Unidos-Europa, o efeito prático varia. Em Cingapura, o Model AI Governance Framework do IMDA cita expressamente a disclosure de incidentes como boa prática. No Brasil, o PL 2338/2023 tramita no Senado e prevê autoridade nacional para requerer relatórios de incidente. Para empresas brasileiras que operam agentes de OpenAI em suporte a clientes ou em back office, o framework americano acabou de virar referência externa para exigências que a ANPD e o futuro regulador de IA podem impor nos próximos doze meses.

O contra-argumento honesto

Vale registrar o argumento oposto para não cair em torcida. O relatório é auto-selecionado: a OpenAI escolhe o que classifica como incidente. Sem regulação obrigatória e sem acesso de auditor externo aos pesos, o framework depende de boa-fé do fornecedor. Céticos como Gary Marcus vão apontar, com razão, que seis casos em quase um ano é um piso, não um teto.

O ponto mais útil não é decidir se o esforço basta. É reconhecer que a OpenAI mudou a regra do jogo para os concorrentes: publicar disclosure formal agora é padrão de indústria, e quem não fizer vai ter que explicar por que ao próximo comitê de compliance.