Anthropic, OpenAI, Google e Meta depõem sob juramento em NY

Representantes da Anthropic, da OpenAI, do Google e da Meta responderam sob juramento, na segunda-feira (5), a perguntas dos 51 vereadores de Nova York sobre os riscos da inteligência artificial. A sessão do Comitê Plenário da Câmara Municipal serviu de audiência para um pacote de projetos que exigiria validação externa de sistemas de IA antes do uso comercial na cidade.

A Anthropic mandou Logan Graham, chefe do Frontier Red Team. A OpenAI foi representada por Morgan Dwyer, responsável por desenvolvimento e operações de políticas públicas; o Google, por Alice Friend, diretora de políticas de IA e tecnologias emergentes; e a Meta, por Shane Cahill, diretor de políticas de IA para legislação. Anthropic, OpenAI e Google só aceitaram comparecer depois de a Câmara ameaçar intimações, segundo a cobertura da CNBC e da Bloomberg. A Meta havia confirmado presença antes.

Quem não veio e quem falou mais alto

A SpaceXAI, braço de IA de Elon Musk, foi intimada e não apareceu. A presidente da Câmara, Julie Menin, classificou a ausência como "violação direta" da intimação e disse que o caso vai à Justiça; a Câmara indicou que pode pedir a execução na Suprema Corte do estado de Nova York.

O tom mais duro veio de ex-funcionários. Jacob Coxon, engenheiro que deixou a Anthropic e tornou públicas suas preocupações semanas atrás, chamou a postura do setor de "extremamente imprudente" e disse considerar "mais provável do que não" que a humanidade perca o controle desses sistemas. Alex Turner, ex-pesquisador do Google DeepMind, defendeu mais transparência e um ritmo mais lento de desenvolvimento. Os executivos das empresas, segundo a Associated Press, disseram que seus sistemas já melhoram o cotidiano das pessoas e que a segurança é prioridade. O AMNY registrou que as quatro empresas evitaram respostas claras a várias das perguntas centrais dos vereadores.

O que está em votação

O pacote apresentado por Menin em 25 de setembro tem quatro frentes. A mais ampla proíbe comercializar ou implantar um sistema de IA na cidade sem validação prévia de um revisor independente, cobrindo qualidade de dados, viés, privacidade, segurança e saídas do modelo, além de exigir um mecanismo de desligamento por humano, o chamado kill switch. Outro projeto obriga contratados e órgãos municipais a notificar incidentes de segurança de IA ao Cyber Command da cidade em até 24 horas. Um terceiro dá a whistleblowers uma parte das multas aplicadas a empresas de IA. O quarto permite processar desenvolvedores por danos causados por terceiros que burlem controles de segurança, quando o dano era previsível e faltavam salvaguardas razoáveis.

Por que isso chega ao CIO, e não só ao jurídico

Nova York é sede de JPMorgan, Citi, Goldman Sachs e Morgan Stanley, além de escritórios das quatro grandes de auditoria. Se o projeto de validação passar no texto atual, um banco que implante um agente de IA para atender clientes na cidade dependeria de um parecer externo antes de ligar o sistema. Isso cria um mercado imediato de auditoria de IA e uma fila de aprovação que hoje não existe no orçamento de nenhum CIO.

O prazo de 24 horas para incidentes também se destaca na comparação internacional. A lei SB 53 da Califórnia dá aos desenvolvedores de modelos de fronteira até 15 dias para reportar um incidente crítico de segurança, reduzidos a 24 horas apenas quando há risco iminente de morte ou ferimento grave. Na União Europeia, o artigo 73 do AI Act fixa até 15 dias para incidentes graves e até dois dias quando atingem infraestrutura crítica. Fornecedores que atendem a prefeitura de Nova York, entre eles consultorias e integradores, teriam a régua mais curta das três.

O argumento contrário

A crítica mais consistente ao pacote é de competência e escala. Uma regra municipal sobre um produto distribuído globalmente tende a gerar exigências fragmentadas, e a própria Menin perguntou na audiência como equilibrar o desenvolvimento de modelos de fronteira com a corrida contra a China. Os defensores respondem com o vácuo federal: a AP lembra que o Congresso não aprovou lei de segurança de IA e que o governo Trump adotou postura passiva, o que empurrou estados e cidades para a dianteira.

Há também um limite prático. Uma Câmara Municipal tem poder de intimação, como ficou claro na segunda-feira, mas não tem como inspecionar o treinamento de um modelo em outro estado. A validação prevista no projeto mira o uso dentro da cidade, não o desenvolvimento.

Para empresas com operação em Nova York, na Califórnia e na Europa, o resultado provável é um mapa de conformidade com três prazos e três definições diferentes de incidente para o mesmo sistema. A audiência de segunda-feira não decidiu nada, mas mostrou que a cidade disposta a usar intimações contra laboratórios de IA é a mesma que abriga a sede dos maiores bancos do país.