Microsoft propone límites para la IA después de años defendiendo una carrera sin freno
La industria de la inteligencia artificial empieza a rebajar el tono de su tradicional carrera por construir modelos cada vez más grandes, rápidos y capaces. Microsoft ha dado un paso especialmente visible al publicar un borrador de código de conducta para los futuros sistemas de IA, con el que pretende fijar unas reglas comunes antes de que la tecnología alcance capacidades difíciles de controlar.
El documento llega en un momento de creciente preocupación por el avance de los modelos generativos y, sobre todo, de los agentes de IA. Estos sistemas no se limitan a responder preguntas: pueden planificar tareas, utilizar herramientas digitales, consultar servicios externos y ejecutar acciones con un grado de autonomía cada vez mayor.
Microsoft sostiene que las capacidades de estos modelos aumentan a gran velocidad y que ya no basta con reaccionar después de cada problema. La compañía defiende una visión de IA humanista, basada en la idea de que las personas deben conservar siempre la autoridad sobre la tecnología.
Un código para evitar perder el control
La propuesta se presenta como un conjunto de diez principios que deberían orientar el desarrollo de los modelos más avanzados. La empresa reconoce que una IA creada para servir a la humanidad no puede quedar definida únicamente por una compañía, por lo que plantea abrir el debate a otros actores del sector.
El eje central del documento es sencillo: ningún sistema debería desplegarse si sus desarrolladores no pueden mantenerlo bajo control. En los casos en los que exista una duda razonable sobre su comportamiento, Microsoft plantea que la tecnología pueda ser aislada o puesta en cuarentena hasta que se compruebe que funciona de forma segura.
Ese planteamiento afecta especialmente a los denominados modelos de frontera. Son los sistemas más avanzados disponibles, normalmente entrenados con enormes cantidades de datos y una gran capacidad de cálculo. Aunque pueden ofrecer mejores resultados, también pueden presentar riesgos difíciles de anticipar, como facilitar ciberataques, automatizar fraudes o ayudar a desarrollar herramientas peligrosas.
El borrador también refleja una preocupación creciente por la autonomía. Cuanto más capaz es un agente de tomar decisiones y actuar sin supervisión directa, más importante resulta establecer límites técnicos, mecanismos de apagado y controles humanos efectivos.
Microsoft se suma a una tendencia que ya estaba en marcha
La compañía no es la primera en intentar formalizar este tipo de compromisos. Anthropic presentó en 2023 una política de escalado responsable con la intención de no entrenar sistemas más potentes si antes no podía garantizar medidas de seguridad adecuadas.
OpenAI también comenzó a reforzar sus reglas internas después de una crisis en la que varios empleados alertaron del peligro de acelerar el desarrollo sin garantías suficientes. Por su parte, Google DeepMind publicó en 2024 un marco para identificar cuándo un modelo podía adquirir capacidades de riesgo en ámbitos como la ciberseguridad o el diseño de armas biológicas.
El movimiento de Microsoft, por tanto, se interpreta como la confirmación de que los grandes laboratorios tecnológicos ya no pueden hablar únicamente de productividad, crecimiento y ventajas competitivas. La seguridad se ha convertido en un elemento central del discurso público sobre la IA.
El problema de los compromisos voluntarios
La principal incógnita no está tanto en la redacción del código como en su aplicación. Microsoft admite que sus modelos actuales todavía no han sido entrenados siguiendo estas reglas. Además, invita a otras empresas a revisar el texto y firmarlo durante las próximas seis semanas, pero el compromiso no parece acompañado de un mecanismo externo de supervisión.
La experiencia reciente del sector tampoco invita al optimismo. Anthropic, una de las compañías que más había insistido en el desarrollo responsable, retiró este año la promesa de no entrenar modelos si no podía garantizar que fueran seguros. La explicación ofrecida fue que no tenía sentido asumir restricciones unilaterales mientras sus competidores continuaban avanzando a máxima velocidad.
Ese episodio muestra la tensión entre los principios de seguridad y la lógica empresarial. Entrenar un modelo de nueva generación requiere inversiones millonarias, grandes centros de datos y acceso a chips especializados. Retrasar un lanzamiento puede significar perder contratos, usuarios y posiciones estratégicas frente a los rivales.
Una carrera tecnológica con dimensión geopolítica
La competencia tampoco se limita a las empresas estadounidenses. Estados Unidos y China consideran la inteligencia artificial una tecnología clave para su posición económica, militar y científica. La carrera por desarrollar el modelo más avanzado se ha convertido en una cuestión de soberanía tecnológica.
En ese contexto, cualquier llamamiento a frenar puede chocar con los intereses de gobiernos y compañías. Algunas voces defienden que reducir el ritmo permitiría mejorar las medidas de seguridad, mientras que otras advierten de que una pausa dejaría ventaja a los competidores. El debate se ha intensificado a medida que los modelos se integran en servicios públicos, empresas y sistemas críticos.
China también ha mostrado interés en crear marcos comunes para regular la IA, aunque sin plantear necesariamente una detención del desarrollo. La prioridad parece ser establecer reglas que permitan avanzar manteniendo el control, no renunciar a la carrera tecnológica.
La confianza será la prueba definitiva
El código de Microsoft puede ser un intento sincero de introducir límites en una industria que durante años ha premiado la velocidad. Sin embargo, su eficacia dependerá de que las empresas acepten reglas comunes incluso cuando hacerlo implique perder ventaja frente a sus rivales.
La gran pregunta es quién verificará que esos compromisos se cumplen y qué ocurrirá cuando un modelo supere las barreras de seguridad previstas. Mientras los códigos sigan siendo voluntarios y las compañías compitan por alcanzar la siguiente generación de IA, la promesa de control seguirá dependiendo en buena medida de la confianza.
