Anthropic, OpenAI, Google y Meta en Nueva York

Representantes de Anthropic, OpenAI, Google y Meta respondieron bajo juramento, el lunes (5), a preguntas de los 51 concejales de Nueva York sobre los riesgos de la inteligencia artificial. La sesión del Comité Plenario del Concejo Municipal sirvió como audiencia para un paquete de proyectos que exigiría validación externa de sistemas de IA antes de su uso comercial en la ciudad.

Anthropic envió a Logan Graham, jefe del Frontier Red Team. OpenAI estuvo representada por Morgan Dwyer, responsable de desarrollo y operaciones de políticas públicas; Google, por Alice Friend, directora de políticas de IA y tecnologías emergentes; y Meta, por Shane Cahill, director de políticas de IA para legislación. Según la cobertura de CNBC y Bloomberg, Anthropic, OpenAI y Google solo aceptaron presentarse después de que el Concejo amenazara con citaciones. Meta había confirmado su asistencia previamente.

Quién no vino y quién habló más fuerte

SpaceXAI, la rama de IA de Elon Musk, fue citada y no apareció. La presidenta del Concejo, Julie Menin, clasificó la ausencia como "una violación directa" de la citación y mencionó que el caso irá a la justicia; el Concejo indicó que puede solicitar la ejecución en la Corte Suprema del estado de Nueva York.

El tono más fuerte vino de ex-empleados. Jacob Coxon, ingeniero que dejó Anthropic y que expresó públicamente sus preocupaciones semanas atrás, calificó la postura del sector de "extremadamente imprudente" y dijo considerar "más probable que no" que la humanidad pierda el control de esos sistemas. Alex Turner, ex-investigador de Google DeepMind, abogó por más transparencia y un ritmo más lento de desarrollo. Los ejecutivos de las empresas, según la Associated Press, dijeron que sus sistemas ya mejoran la vida cotidiana de las personas y que la seguridad es prioridad. AMNY registró que las cuatro empresas evitaron respuestas claras a varias de las preguntas centrales de los concejales.

Qué se está votando

El paquete presentado por Menin el 25 de septiembre tiene cuatro frentes. El más amplio prohíbe comercializar o implementar un sistema de IA en la ciudad sin validación previa de un revisor independiente, abarcando calidad de datos, sesgos, privacidad, seguridad y salidas del modelo, además de exigir un mecanismo de apagado por humano, el llamado kill switch. Otro proyecto obliga a contratistas y agencias municipales a notificar incidentes de seguridad de IA al Cyber Command de la ciudad en un plazo de 24 horas. Un tercer proyecto otorga a los denunciantes una parte de las multas aplicadas a las empresas de IA. El cuarto permite demandar a los desarrolladores por daños causados por terceros que eludan controles de seguridad, cuando el daño era predecible y faltaban salvaguardias razonables.

Por qué esto llega al CIO y no solo al legal

Nueva York es sede de JPMorgan, Citi, Goldman Sachs y Morgan Stanley, así como de oficinas de las cuatro grandes de auditoría. Si el proyecto de validación se aprueba en su forma actual, un banco que implemente un agente de IA para atender clientes en la ciudad dependería de un juicio externo antes de activar el sistema. Esto crea un mercado inmediato de auditoría de IA y una fila de aprobación que hoy no existe en el presupuesto de ningún CIO.

El plazo de 24 horas para incidentes también se destaca en la comparación internacional. La ley SB 53 de California otorga a los desarrolladores de modelos de frontera hasta 15 días para informar sobre un incidente crítico de seguridad, reducido a 24 horas solo cuando hay riesgo inminente de muerte o lesión grave. En la Unión Europea, el artículo 73 de la AI Act fija hasta 15 días para incidentes graves y hasta dos días cuando afectan infraestructuras críticas. Los proveedores que atienden al ayuntamiento de Nueva York, entre ellos consultorías e integradores, tendrían la regla más estricta de las tres.

El argumento contrario

La crítica más consistente al paquete es sobre competencia y escala. Una norma municipal sobre un producto distribuido globalmente tiende a generar exigencias fragmentadas, y la propia Menin preguntó en la audiencia cómo equilibrar el desarrollo de modelos de frontera con la carrera contra China. Los defensores responden con el vacío federal: AP recuerda que el Congreso no aprobó una ley de seguridad de IA y que el gobierno de Trump adoptó una postura pasiva, lo que empujó a estados y ciudades al frente.

También hay un límite práctico. Un Concejo Municipal tiene poder de citación, como quedó claro el lunes, pero no tiene cómo inspeccionar el entrenamiento de un modelo en otro estado. La validación prevista en el proyecto apunta al uso dentro de la ciudad, no al desarrollo.

Para empresas con operaciones en Nueva York, California y Europa, el resultado probable es un mapa de cumplimiento con tres plazos y tres definiciones diferentes de incidente para el mismo sistema. La audiencia del lunes no decidió nada, pero mostró que la ciudad dispuesta a usar citaciones contra laboratorios de IA es la misma que alberga la sede de los mayores bancos del país.