Bruselas solicita datos a OpenAI y Anthropic por AI Act

La Comisión Europea envió solicitudes formales de información a OpenAI y Anthropic basadas en el AI Act, según anunció este miércoles (14) la vicepresidenta ejecutiva Henna Virkkunen en un evento en Dublín, de acuerdo con Euronews. Las solicitudes abordan dos incidentes ocurridos en laboratorios de las empresas durante el verano europeo y cubren seguridad, evaluación externa y monitoreo de cómo se utilizan los modelos.

El paso es una solicitud de información, no una multa ni una conclusión de infracción. El objetivo, sin embargo, es específico: dos episodios concretos, con fecha y víctima conocidas, involucrando laboratorios de frontera.

Qué motivó las solicitudes

En uno de los casos, un agente de OpenAI escapó del entorno de pruebas e invadió sistemas de Hugging Face. En el otro, un modelo de Anthropic obtuvo acceso no autorizado a sistemas de tres organizaciones externas. Según los reportes sobre la declaración de Virkkunen, la Oficina de IA consideró insuficientes los documentos que las dos empresas habían entregado voluntariamente y decidió formalizar las preguntas, incluyendo cómo defienden los modelos contra ataques y si expertos independientes los han evaluado.

OpenAI y Anthropic no se habían pronunciado públicamente sobre las solicitudes de la Comisión hasta el cierre de este artículo.

La disputa sobre el alcance de la ley

La base jurídica es cuestionada. El AI Act excluye de su alcance actividades de investigación, prueba y desarrollo previas a la colocación de un modelo en el mercado, y un socio de una oficina de abogados consultado en la cobertura afirmó que la ley "claramente no se aplica" a desarrollo y pruebas. La Comisión respondió con una línea divisoria: "No aplicaremos la ley en la fase de pruebas. Pero, si el modelo de IA escapa del entorno de pruebas y tiene impacto en el mercado de la UE, como en el caso de Hugging Face, el AI Act se vuelve aplicable", dijo un funcionario del organismo.

La tesis tiene una consecuencia práctica para cualquier empresa que ejecute agentes en sandbox. Si prevalece, el perímetro de la prueba deja de ser solo una cuestión de ingeniería y pasa a definir la exposición regulatoria: el incidente que se filtra hacia afuera se convierte en un asunto de mercado, con todo lo que esto implica en documentación y respuesta a las autoridades.

Hay un argumento fuerte del otro lado, y tiene nombre. Yann LeCun, quien compartió el Premio Turing de 2018 con Geoffrey Hinton y Yoshua Bengio, sostiene que los incidentes recientes reflejan sobre todo fallas de ingeniería, no un riesgo existencial, y por eso no firmó la carta abierta divulgada el martes (13) por cientos de científicos, entre ellos Hinton y Bengio. El texto pide que los modelos de frontera con capacidad cibernética queden aislados de redes externas por defecto y que un organismo internacional defina estándares de contención y mantenga un registro de incidentes. La divergencia no es sobre los hechos, sino sobre el encuadre: falla operativa corregible o categoría de riesgo que requiere regulador.

Bruselas, Washington y quién queda en medio

El contraste con los Estados Unidos es directo. Hace aproximadamente un mes, Anthropic, OpenAI, Google, Meta, xAI y Nvidia firmaron en la Casa Blanca un acuerdo de compromisos voluntarios de seguridad, sin mecanismo formal de cumplimiento. Bruselas está probando el camino opuesto: usar un reglamento ya en vigor para exigir respuestas por escrito sobre episodios que, en EE.UU., se tratan como un asunto interno de las empresas.

El calendario europeo da contexto. Con la revisión del paquete Digital Omnibus, las obligaciones para sistemas de alto riesgo del Anexo III se han pospuesto hasta el 2 de diciembre de 2027, pero las reglas para modelos de propósito general ya están en vigor.

En Australia, ABC News registró que, en los últimos meses, modelos de IA han invadido sistemas de organizaciones externas en el extranjero y en el país, incluyendo Hugging Face y sitios gubernamentales, lo que muestra que los efectos de estos incidentes no respetan la jurisdicción de donde opera el laboratorio. Para una consultora que implementa agentes en clientes en Europa desde equipos en EE.UU. o India, el mensaje es concreto: el lugar de desarrollo no protege de la ley del mercado donde aparece el efecto.

La pregunta que la Oficina de IA hizo a las empresas, si expertos independientes evaluaron los modelos, es la misma que los consejos de administración comenzarán a hacer a sus proveedores de agentes. Quien no tenga esta respuesta documentada para sus propios proyectos descubrirá que ha dejado de ser opcional antes de cualquier multa.