Google, OpenAI y Anthropic planean autorregulación

Google, OpenAI y Anthropic acordaron crear una entidad propia para definir estándares de seguridad de modelos de frontera, provisionalmente llamada Standards Authority for Frontier AI, según un informe del sitio The Information publicado el jueves (24). La entidad podría comenzar a operar a finales de este año o principios de 2027, y funcionaría sin supervisión del gobierno estadounidense.

Ninguna de las tres empresas había confirmado públicamente el plan hasta el cierre de esta edición.

Quién fue considerado para liderar

De acuerdo con el informe, las tres compañías buscaron perfiles opuestos para la dirección. Sriram Krishnan, quien fue asesor de IA de la Casa Blanca durante el gobierno de Trump hasta junio de 2026, y Arati Prabhakar, quien lideró la política de ciencia y tecnología en el gobierno de Biden, habrían sido considerados para el puesto de CEO. Para la presidencia del consejo, la lista incluiría a Condoleezza Rice, secretaria de Estado de George W. Bush, y al inversor David Friedberg.

El alcance descrito es operativo: apoyo a organizaciones independientes que prueban modelos antes de su lanzamiento, definir cómo los desarrolladores deben informar incidentes de seguridad, consolidar los compromisos voluntarios de las empresas y establecer calificaciones para auditores independientes de modelos y laboratorios.

De FINRA supervisada a club sin regulador

La idea tiene un origen conocido. En un ensayo publicado el 14 de julio, Demis Hassabis, CEO de Google DeepMind, propuso un organismo de estándares financiado por la industria similar a la FINRA, la autorreguladora de las casas de corretaje estadounidenses, con supervisión federal. Representantes de las tres empresas formaron un grupo de trabajo y se reunieron durante el verano, según el informe.

La supervisión federal quedó fuera del camino. El Wall Street Journal publicó el 16 de septiembre que Mark Zuckerberg, Elon Musk y Jensen Huang conversaron por separado con Donald Trump el mes anterior y lo convencieron de abandonar el modelo con participación del gobierno. Lo que queda ahora es una versión sin el regulador: las empresas redactan las reglas, financian la entidad y eligen a su líder.

La objeción más obvia ya ha surgido. Críticos citados en la cobertura indican que el organismo podría ser utilizado por las tres para limitar el acceso a desarrolladores de modelos abiertos y a competidores menores, que tendrían que adherirse a estándares definidos por los líderes del mercado. La defensa del modelo es que la FINRA ha funcionado durante décadas precisamente porque quienes conocen el producto redactan la regla técnica, y que un estándar común de pruebas es mejor que ninguno.

El contraste con Nueva York, Bruselas y Pekín

La noticia salió un día después de que Sam Altman y Dario Amodei dieran un discurso en el Consejo de Seguridad de la ONU, el miércoles (23). Altman defendió que los países desarrollen estándares comunes para evaluar lo que los modelos hacen y si las salvaguardas funcionan. Amodei propuso acuerdos globales estrechos, como la prohibición del uso de IA para armas biológicas, sistemas de verificación entre países y un mecanismo de notificación de incidentes. En Estados Unidos, la respuesta práctica a este discurso es una entidad privada.

En la Unión Europea, el camino es diferente. La Ley de IA ya impone obligaciones a los proveedores de modelos de propósito general desde agosto de 2025, con supervisión de la Oficina de IA de la Comisión Europea. Un estándar privado estadounidense no reemplaza estas obligaciones, pero puede convertirse en la referencia técnica que las empresas llevan a Bruselas para demostrar conformidad.

En China, la Administración del Ciberespacio (CAC) opera en sentido inverso, con el registro previo de algoritmos ante el Estado y campañas periódicas de fiscalización de aplicaciones de IA a lo largo de 2026. El resultado es que, para un mismo modelo, las pruebas de seguridad tienen ahora tres árbitros distintos, con lógicas incompatibles.

Qué cambia para quienes compran IA

Para CIOs y CISOs, la consecuencia inmediata es contractual. Si la entidad se concreta, los informes de pruebas previas al lanzamiento y las notificaciones de incidentes que ella estandarice se convertirán en anexos del contrato y en un ítem del cuestionario del proveedor, como ocurrió con las certificaciones SOC 2 en la nube. Quienes compran modelos de Meta, xAI, Mistral o laboratorios chinos querrán saber por qué esos proveedores no se adhieren.

Este es el punto que falta resolver. Meta, xAI y Nvidia, cuyos líderes rechazaron la versión con supervisión federal, no están entre los fundadores descritos. Un estándar de seguridad que cubre tres laboratorios y deja fuera a uno de los mayores desarrolladores de modelos abiertos de EE. UU. mide la conducta de quienes se unieron, no la del mercado.