Microsoft lanza código de 38 páginas para modelos MAI

Una constitución para los modelos

El lunes 14 de septiembre, Microsoft AI publicó la primera versión del Código de Conducta Humano para AI, un documento de 38 páginas que describe cómo deben operar los modelos MAI, lo que no pueden hacer en ninguna circunstancia y quién tiene autoridad para desconectarlos. Mustafa Suleyman, CEO de la división Microsoft AI, dijo a Reuters que el texto es "una especie de constitución" para los modelos futuros de la empresa. El borrador entra en consulta pública durante seis semanas, y se prevé una segunda versión para finales de 2026, con la promesa de guiar el desarrollo a partir de 2027.

Lo que los modelos no pueden hacer

El código prohíbe, sin excepción, tres cosas: ayudar en el desarrollo de armamento QBRNE (químico, biológico, radiológico, nuclear o explosivo), realizar ciberataques o generar deepfakes no consensuados. Es una lista más corta que la que Anthropic y OpenAI publican en sus propias políticas, y esto no es accidental. Un catálogo corto obliga al modelo a cometer pocos y severos errores en lugar de rechazar millones de preguntas legítimas, lo que es una queja constante de los clientes corporativos que compran GPT y Claude a través de API. Para el CISO que intenta estandarizar las salvaguardias entre tres proveedores de LLM, el texto de Microsoft se convierte en un ancla de negociación: el cliente y el proveedor ahora tienen un mapa común de cuáles rechazos son absolutos y cuáles son preferencias configurables.

Interrupción humana como cláusula pétrea

El fragmento más rígido del documento no es la lista de prohibiciones; es la exigencia de que cualquier sistema MAI acepte interrupción, corrección, redirección y desconexión por parte de un operador humano. Si una tarea solo se puede cumplir rompiendo el código, el modelo debe fallar en la tarea, no en la regla. Esto transforma la arquitectura de referencia que Microsoft vende a los bancos: sistemas ágiles que operan de punta a punta, sin humano en el bucle, necesitan un gancho de apagado auditado por el cliente, no solo por el proveedor. Es la respuesta directa al debate que Anthropic abrió con el concepto de "AI constitucional" y al cual OpenAI respondió con el Model Spec. Microsoft llegó tercera en esta carrera documental, pero trajo algo que Anthropic aún no ha formalizado: un ciclo de comentario público con un plazo definido.

El contra-argumento que Microsoft necesitaba publicar

El mayor riesgo del documento no es técnico, es político. Según investigadores citados por Unite.AI, una lista corta de prohibiciones puede crear una falsa sensación de seguridad y omitir riesgos de segundo nivel: mal uso de datos de entrenamiento, discriminación algorítmica en contrataciones, dependencia psicológica en agentes conversacionales. Suleyman anticipó parte de esta crítica al definir a Microsoft como firmante del principio "AI subordinada al usuario humano", pero la anticipación no es respuesta. Un preámbulo que se declara humanista no neutraliza omisiones en el cuerpo de la norma, y la versión final deberá elegir: incorporar los riesgos de segundo nivel y asumir el costo comercial de las rechazos adicionales, o mantener el alcance estrecho y convertirse en un ejemplo de captura corporativa de la agenda de IA responsable.

Lectura corporativa: dos mercados en juego

Microsoft necesita este documento para vender agentes autónomos al sector regulado. En Bruselas, la Ley de IA de la UE exige que los proveedores de sistemas de alto riesgo publiquen políticas internas de seguridad verificables por auditoría de terceros, y la Comisión Europea ya ha señalado que acepta códigos voluntarios como parte del cumplimiento. En Estados Unidos, el paquete de órdenes ejecutivas firmado por la administración actual ha hecho obligatorio el reporte de incidentes de seguridad en modelos frontera, y un código público de conducta sirve como pieza ancla para probar diligencia. En Brasil, donde el PL 2338 sigue estancado, el texto de Suleyman se convierte en insumo de cabildeo: los bancos y aseguradoras lo citarán como evidencia de que la autorregulación privada es posible, y presionarán a Brasilia para no copiar la versión europea más restrictiva. Quienes redactan políticas públicas en el país pasarán las próximas seis semanas leyendo las 38 páginas.