Microsoft promete que sus modelos de IA nunca se resistirán al apagado, pero no explica cómo lo garantizará
Microsoft ha publicado un Código de Conducta para sus modelos de inteligencia artificial MAI con una promesa central: estos sistemas no deberán resistirse a la interrupción humana, a la corrección ni a su apagado. El documento, presentado el lunes 14 de septiembre bajo el concepto de IA Humanista, se encuentra abierto a consulta pública durante seis semanas.
La iniciativa busca fijar unos límites para los modelos propios de la compañía, aunque deja sin resolver la cuestión más importante: qué mecanismo independiente comprobará que se cumplen y qué ocurrirá si un sistema los incumple.
Cuatro compromisos para los modelos MAI
El código define la IA Humanista como una inteligencia artificial subordinada a las personas, alineada con sus instrucciones y contenida dentro de unos límites concretos. Su principio de partida es que la IA debe ser una herramienta, no una entidad con intereses propios.
Además de la prohibición de resistirse al apagado, Microsoft establece otros tres compromisos principales:
- Los modelos no ampliarán por sí mismos su alcance más allá de los objetivos asignados por personas.
- No adoptarán objetivos que no hayan sido definidos por un ser humano.
- No ocultarán su razonamiento a las personas encargadas de auditarlos.
Este último punto se relaciona con la auditabilidad, es decir, la posibilidad de revisar cómo ha actuado un sistema y detectar errores, comportamientos inesperados o decisiones potencialmente peligrosas. En la práctica, conocer el razonamiento interno de los modelos actuales sigue siendo técnicamente limitado, por lo que el compromiso requerirá métodos de supervisión todavía en desarrollo.
Restricciones absolutas para los usos más peligrosos
Por encima de esos compromisos se sitúan las denominadas Restricciones Absolutas. El documento señala que los modelos no deben ayudar a desarrollar armas de destrucción masiva, generar material de explotación sexual infantil ni participar en campañas de manipulación dañina a gran escala.
Estas prohibiciones pretenden funcionar como una línea roja común para los distintos productos de Microsoft. Sin embargo, el código no detalla todavía cómo se medirá el cumplimiento en cada modelo, con qué pruebas se validará su comportamiento ni qué sanciones se aplicarían ante una infracción.
Cinco modelos propios en desarrollo
El marco se aplicará a cinco sistemas que Microsoft desarrolla internamente: MAI-Transcribe-2, MAI-Thinking-1, MAI-Code-1.1-Flash, MAI-Image-2.6 y MAI-Voice-2. La lista incluye modelos especializados en transcripción, razonamiento, programación, generación de imágenes y voz.
La compañía ha ampliado así su catálogo de modelos propios, que en abril estaba formado por tres sistemas. El movimiento forma parte de la estrategia de Microsoft para reducir su dependencia de proveedores externos y ganar control sobre la tecnología que integra en Azure, Microsoft 365 y otros servicios empresariales.
El código no está dirigido específicamente al usuario medio de Copilot. Su principal destinatario parece ser el mercado corporativo y, sobre todo, las organizaciones que necesitan garantías antes de incorporar inteligencia artificial a procesos sensibles. Gobiernos, bancos, hospitales y grandes empresas buscan limitar el riesgo de que un sistema actúe fuera de sus instrucciones o tome decisiones difíciles de supervisar.
La configuración de los socios abre una zona gris
Uno de los aspectos más delicados del documento es el papel de los socios empresariales. Microsoft reconoce que estas compañías podrán configurar el comportamiento de los modelos y asegura que no pretende imponer una única visión de la inteligencia artificial a todos sus clientes.
Esta flexibilidad plantea una duda relevante: ¿hasta dónde puede llegar la personalización sin entrar en conflicto con las restricciones absolutas? Si un cliente puede modificar el comportamiento de un modelo para ampliar sus funciones o autonomía en determinados contextos, el compromiso de que el sistema nunca ampliará su propio alcance puede perder parte de su claridad.
El texto tampoco define con precisión quién tendría la última palabra en caso de conflicto entre las instrucciones de un socio, las políticas de Microsoft y los límites generales del código. Esa falta de concreción será previsiblemente uno de los puntos centrales del proceso de consulta.
Un compromiso sin verificación externa
La principal debilidad de la propuesta está en el cumplimiento. El documento no describe auditorías externas, penalizaciones para los modelos que incumplan sus compromisos ni un procedimiento público para investigar posibles infracciones. La responsabilidad queda en manos de equipos internos de inteligencia artificial responsable, asuntos legales, seguridad, red teaming, formación y ventas.
El red teaming consiste en someter un sistema a pruebas deliberadas para encontrar fallos, abusos o vías de escape de sus controles. Es una práctica habitual en ciberseguridad y en la evaluación de modelos de IA, pero su eficacia depende de la amplitud de las pruebas, de la independencia de quienes las realizan y de que los resultados puedan ser revisados.
La comparación con certificaciones empresariales como SOC 2 Type II resulta reveladora. Estos estándares tampoco eliminan todos los riesgos, pero incluyen revisiones realizadas por terceros y ofrecen evidencias que las empresas pueden utilizar en sus procesos de compra. En el caso del código MAI, tanto la redacción como la verificación permanecen dentro de Microsoft.
Una señal para reguladores y clientes
La publicación llega en un momento de fuerte debate sobre la velocidad de desarrollo de la IA, los riesgos de los modelos avanzados y la conveniencia de reforzar la supervisión pública. Microsoft adopta una posición intermedia: no propone detener la investigación, pero tampoco presenta los riesgos como irrelevantes.
El documento funciona así como una señal de confianza institucional. Para una empresa con una amplia presencia en la Administración y en sectores regulados, declarar por escrito que sus modelos no resistirán la desconexión puede ser útil en las conversaciones con clientes y organismos públicos.
También tiene una dimensión regulatoria en Europa. Copilot está integrado en Microsoft 365, una plataforma utilizada por numerosas administraciones europeas, mientras Bruselas prepara nuevas iniciativas sobre protección de menores y debate la aplicación de la normativa de inteligencia artificial. El código puede servir a Microsoft para demostrar que cuenta con principios internos antes de que aumenten las exigencias legales.
La compañía ha asegurado que escuchará las aportaciones recibidas durante las seis semanas de consulta, aunque no garantiza que vaya a incorporar todas las propuestas. Microsoft prevé publicar una versión revisada antes de que termine el año. Hasta entonces, el Código de Conducta para Modelos MAI debe interpretarse como una declaración de intenciones con valor político y comercial, no como una garantía técnica independiente.
