Microsoft publica código de 38 páginas para seus modelos MAI

Uma constituição para os modelos

Na segunda-feira, 14 de setembro, a Microsoft AI publicou a primeira versão da Humanist AI Code of Conduct, documento de 38 páginas que descreve como os modelos MAI devem operar, o que não podem fazer em nenhuma hipótese e quem tem autoridade para desligá-los. Mustafa Suleyman, CEO da divisão Microsoft AI, disse à Reuters que o texto é "uma espécie de constituição" para os modelos futuros da empresa. O rascunho entra em consulta pública por seis semanas, e uma segunda versão está prevista para o final de 2026, com a promessa de orientar o desenvolvimento a partir de 2027.

O que os modelos não podem fazer

O código proíbe, sem exceção, três coisas: ajudar no desenvolvimento de armamento QBRNE (químico, biológico, radiológico, nuclear ou explosivo), operar ciberataques ou gerar deepfakes não consensuais. É uma lista mais curta do que a que Anthropic e OpenAI publicam nas próprias policies, e isso não é acidente. Um catálogo curto força o modelo a errar poucos e severos casos em vez de recusar milhões de perguntas legítimas, o que é queixume constante de clientes corporativos que compram GPT e Claude via API. Para o CISO que tenta padronizar guardrails entre três provedores de LLM, o texto da Microsoft vira âncora de negociação: cliente e fornecedor agora têm um mapa comum de quais recusas são absolutas e quais são preferências configuráveis.

Interrupção humana como cláusula pétrea

O trecho mais rigoroso do documento não é a lista de proibições, é a exigência de que qualquer sistema MAI aceite interrupção, correção, redirecionamento e desligamento por parte de um operador humano. Se uma tarefa só pode ser cumprida quebrando o código, o modelo deve falhar a tarefa, não a regra. Isso muda a arquitetura de referência que a Microsoft vende aos bancos: sistemas agênticos que operam de ponta a ponta, sem humano no loop, precisam de um gancho de shutdown auditável pelo cliente, não apenas pelo fornecedor. É a resposta direta ao debate que a Anthropic abriu com o conceito de "constitutional AI" e ao qual a OpenAI respondeu com o Model Spec. A Microsoft chegou terceira nessa corrida documental, mas trouxe algo que a Anthropic ainda não formalizou: um ciclo de comentário público com prazo definido.

O contra-argumento que a Microsoft precisou publicar

O maior risco do documento não é técnico, é político. Segundo pesquisadores citados pela Unite.AI, uma lista curta de proibições pode criar falsa sensação de segurança e omitir riscos de segundo nível: uso indevido de dados de treinamento, discriminação algorítmica em contratação, dependência psicológica em agentes conversacionais. Suleyman antecipou parte dessa crítica ao definir a Microsoft como signatária do princípio "AI subordinada ao usuário humano", mas antecipação não é resposta. Um preâmbulo que se declara humanista não neutraliza omissões no corpo da norma, e a versão final terá de escolher: incorporar os riscos de segundo nível e assumir o custo comercial das recusas a mais, ou manter o escopo estreito e virar exemplo de captura corporativa da agenda de IA responsável.

Leitura corporativa: dois mercados em jogo

A Microsoft precisa desse documento para vender agentes autônomos ao setor regulado. Em Bruxelas, o EU AI Act exige que provedores de sistemas de alto risco publiquem políticas internas de segurança verificáveis por auditor terceiro, e a Comissão Europeia já sinalizou que aceita códigos voluntários como parte do cumprimento. Nos Estados Unidos, o pacote de executive orders assinado pela administração atual tornou obrigatório o reporte de incidentes de segurança em modelos frontier, e um código público de conduta serve de peça-âncora para provar diligência. No Brasil, onde o PL 2338 continua parado, o texto de Suleyman vira insumo de lobby: bancos e seguradoras vão citá-lo como evidência de que autorregulação privada é possível, e vão pressionar Brasília a não copiar a versão europeia mais restritiva. Quem escreve política pública no país passa as próximas seis semanas lendo as 38 páginas.