Amodei denuncia que la industria de IA "mintió" sobre riesgos

El CEO de Anthropic, Dario Amodei, dijo al programa ‘CBS Sunday Morning’ el 13 de septiembre que ‘durante demasiado tiempo la industria ha mentido a las personas sobre los riesgos de esta tecnología’. En la misma entrevista, anunció que Anthropic dará acceso permanente a evaluadores independientes, ‘como si fueran empleados’, a sus modelos. Amodei comparó el mecanismo con un ‘fiscal sanitario’ que puede verificar si las empresas cumplen con sus propios compromisos de seguridad.

¿Qué exactamente se anunció?

Amodei propuso que los competidores acepten el mismo protocolo: acceso ininterrumpido de terceros a los modelos de frontera, con derecho a inspeccionar comportamientos que hoy solo ve la propia empresa. Es la primera vez que uno de los grandes laboratorios ofrece públicamente un pipeline de auditoría continua en lugar de evaluaciones puntuales previas al lanzamiento. Amodei también manifestó su apoyo a la regulación federal y reconoció que los evaluadores independientes, por sí solos, ‘difícilmente son suficientes’.

La declaración vino como respuesta directa a Jacob Coxon, ex-investigador de Anthropic que dejó la empresa días antes advirtiendo sobre riesgos existenciales de superinteligencia auto-mejorable. Amodei admitió que ‘no evaluó por completo cómo sería cuando el progreso viniera tan rápido’. La frase es lo opuesto a la posición de enero, cuando Amodei describió el avance de la IA como ‘exponencial’ y comparó el momento a una ‘adolescencia’ de la tecnología.

El dilema chino, en la conversación paralela con CNBC

El mismo día 13, Amodei dijo a CNBC que China es el ‘dilema más difícil’ de su propuesta de desaceleración. La lógica es simple: si los laboratorios estadounidenses moderan su ritmo mientras las empresas chinas siguen a máxima velocidad, el aumento de la seguridad viene acompañado de una pérdida estratégica. La respuesta de Amodei fue que aún vale la pena contenerse, aun así. ‘No estoy diciendo que el problema sea fácil’, declaró. ‘Estoy diciendo que la alternativa es peor.’

El argumento contradice la línea que David Sacks, zar de IA de la Casa Blanca, ha defendido públicamente. Sacks rechazó esta semana la idea de cualquier pacto entre laboratorios estadounidenses y apuntó al riesgo de ‘desarme unilateral’. La distancia entre las dos posiciones es el motivo por el cual las conversaciones entre el gobierno de Trump y las empresas se han estancado desde julio, según informó The Information.

Lectura global: tres geografías, tres problemas diferentes

Para Estados Unidos, la propuesta de Amodei desplaza el costo de la seguridad dentro de la propia industria y fuera del congreso. Si tres laboratorios aceptan evaluadores externos con acceso equivalente al de empleados, el campo de disputa deja de ser la definición de riesgo (realizada hoy por la empresa que produce el modelo) y pasa a ser la gobernanza de la métrica. Una consecuencia directa: contratos enterprise que exigen ‘atestación de seguridad de IA’ obtienen una exigencia auditada.

Para la Unión Europea, el anuncio complica la lectura del AI Act. Desde el 2 de agosto, la Comisión puede multar a proveedores de modelos de propósito general con hasta el 3% de su facturación global. Si Anthropic acepta voluntariamente un régimen que se parece a la auditoría de código de conducta prevista en el Artículo 55 del AI Act, la oficina europea de IA pierde parte del argumento de que necesita forzar el acceso a través del proceso regulatorio. Al mismo tiempo, gana un piso técnico para comparar OpenAI y Google.

Para China, la propuesta es retórica: ningún laboratorio chino abrirá sus modelos a un evaluador occidental. Lo que cambia es el costo político de decir esto. Si Anthropic institucionaliza el acceso tercerizado, Zhipu, Moonshot y DeepSeek comienzan a operar con un sello implícito de ‘no evaluado’ cuando ingresen en RFPs de multinacionales estadounidenses o europeas. El efecto práctico es menor de lo que sugiere el titular, pero real en la compra corporativa.

¿Qué debilita el argumento de Amodei?

El propio Amodei dijo que la auditoría continua ‘difícilmente es suficiente’. La frase otorga credibilidad y limita expectativas. La discusión sobre quién paga a estos evaluadores, quién los acredita y quién responde por fallas de aviso está abierta. Una versión laxa del arreglo puede convertirse en un comité pro-forma como el que mantuvo Meta hasta 2023.

La otra brecha es temporal. Amodei propone frenar la velocidad en un momento en que Anthropic acaba de asegurar 14,8 GW de capacidad de computación y reportar ingresos anuales superiores a 30 mil millones de dólares, delante de OpenAI en ingresos enterprise por asientos en varias verticales. Rivalidad y discurso de seguridad coexisten, pero el lado que ya está adelante gana más con una pausa coordinada. Para el comprador de nivel C, la prueba sigue siendo la misma: el SLA de auditoría previsto en el contrato, y no la entrevista del domingo.