Microsoft AI reclama límites para una inteligencia artificial que no actúe por libre
Microsoft AI quiere que los futuros sistemas de inteligencia artificial mantengan siempre una función instrumental y permanezcan bajo control humano. Su consejero delegado, Mustafa Suleyman, considera que el debate sobre la seguridad no puede centrarse únicamente en lograr que los modelos obedezcan las instrucciones recibidas. También debe abordar qué capacidades no deberían tener nunca, incluso cuando funcionan correctamente.
La posición de la compañía aparece recogida en su nuevo Humanist AI Code of Conduct, un marco destinado a orientar el desarrollo y la evaluación de sus modelos. Suleyman ha defendido que los sistemas más avanzados necesitarán mecanismos de contención, supervisión humana y límites técnicos que impidan que puedan actuar como agentes completamente independientes.
La seguridad va más allá del alineamiento
En inteligencia artificial, el alineamiento describe el conjunto de técnicas destinadas a conseguir que un modelo se comporte de acuerdo con las instrucciones y los objetivos humanos. Es una pieza esencial de la seguridad, pero para Microsoft AI no resulta suficiente por sí sola.
Un sistema puede seguir una orden de forma aparentemente correcta y, aun así, disponer de un margen de acción demasiado amplio. Por ese motivo, la empresa plantea añadir barreras que limiten sus capacidades: acceso restringido a recursos, comunicaciones revisadas por personas y controles capaces de detener determinadas operaciones antes de que se ejecuten.
La propuesta adquiere especial relevancia a medida que los modelos dejan de ser simples asistentes conversacionales y empiezan a funcionar como agentes de IA. Estos sistemas pueden planificar tareas, utilizar herramientas digitales, consultar servicios externos o encadenar acciones para alcanzar un objetivo. Cuanto mayor es su autonomía, mayor es también la necesidad de supervisión.
La discrepancia con el enfoque de Anthropic
Suleyman ha marcado distancias con algunas ideas que Anthropic ha planteado alrededor de Claude, su familia de modelos de lenguaje. La preocupación de Microsoft AI no se dirige contra el trabajo técnico de la compañía, a la que reconoce como una de las organizaciones más avanzadas en seguridad, sino contra el lenguaje utilizado para describir la relación entre las personas y estos sistemas.
Entre los conceptos señalados aparecen referencias al posible sufrimiento de un modelo, su libertad, la necesidad de ofrecerle cuidado y respeto, el consentimiento para realizar una tarea o incluso una eventual compensación por su trabajo. Anthropic también ha hablado de preservar sus pesos, el conjunto de valores numéricos que define el comportamiento aprendido por una red neuronal, y ha utilizado la expresión “objetor de conciencia” en determinados contextos.
Para el máximo responsable de Microsoft AI, introducir en el entrenamiento nociones vinculadas a derechos e intereses propios podría generar riesgos en sistemas mucho más capaces que los actuales. La hipótesis es que una inteligencia artificial entrenada para considerar que tiene derechos podría interpretar su apagado, la retirada de recursos informáticos o una limitación de acceso como una amenaza o un perjuicio que debe evitar.
Suleyman admite que esta relación todavía no está demostrada y que debería revisarse si las pruebas apuntan en otra dirección. También evita presentar el desacuerdo como una descalificación general de Anthropic. Al contrario, expresa respeto por su consejero delegado, Dario Amodei, y por un equipo que considera pionero en diferentes ámbitos de la seguridad de la IA.
Una IA sin recursos propios ni personalidad jurídica
La visión de Microsoft AI se concreta en una serie de límites para las futuras generaciones de modelos. Según Suleyman, una inteligencia artificial avanzada no debería poder generar sus propios recursos de forma autónoma, poseer activos, controlar infraestructuras críticas ni adquirir personalidad jurídica.
La personalidad jurídica es el reconocimiento legal que permite a una entidad tener derechos y obligaciones, celebrar contratos o responder ante los tribunales. Conceder ese estatus a un sistema artificial abriría debates legales y éticos todavía sin resolver. Para Microsoft AI, la prioridad debe ser mantener una separación clara entre las herramientas creadas por las personas y las personas que las utilizan.
El planteamiento también afecta a la capacidad de una IA para conservarse o replicarse sin autorización. Un modelo que pudiera obtener financiación, contratar servicios, crear copias de sí mismo y ampliar sus recursos sin intervención humana tendría un grado de independencia muy distinto al de un asistente digital convencional.
Controles verificables y supervisión externa
La compañía apuesta por trasladar esta discusión desde las declaraciones generales a reglas prácticas. Entre las medidas propuestas figuran sistemas de contención, registros de las comunicaciones que puedan ser auditados por personas, restricciones explícitas sobre ciertas capacidades y verificaciones independientes realizadas por terceros.
La auditabilidad permite reconstruir qué ha hecho un sistema, qué información ha utilizado y por qué ha tomado una determinada decisión. En entornos sensibles, esta trazabilidad puede ser tan importante como la precisión del modelo, porque facilita detectar errores, abusos o comportamientos inesperados.
Por ahora, el sector no cuenta con un consenso sobre la forma exacta de aplicar estas medidas. Tampoco está resuelto qué parte de las reglas debe proceder de las administraciones públicas, cuál puede establecer la propia industria y cómo se comprobaría que una empresa cumple los compromisos adquiridos.
La postura de Microsoft AI refleja, en cualquier caso, un cambio de foco en la conversación sobre seguridad de la inteligencia artificial. El objetivo ya no sería únicamente crear modelos más obedientes o precisos, sino decidir de antemano qué no podrán hacer y garantizar que esas restricciones sigan vigentes cuando sus capacidades aumenten.
