Microsoft cuestiona que Anthropic trate a Claude como una IA capaz de sufrir
El debate sobre la posible consciencia de los sistemas de inteligencia artificial ha vuelto a dividir a la industria. Mustafa Suleyman, responsable de Microsoft AI, ha criticado la postura de Anthropic sobre Claude y ha advertido de que presentar a un modelo como una entidad capaz de sufrir podría dificultar su control y aumentar los riesgos de seguridad.
La discusión afecta a los modelos de lenguaje más avanzados, capaces de generar texto, analizar información y ejecutar tareas complejas. Aunque estos sistemas pueden expresarse como si tuvieran emociones, deseos o experiencias propias, no existe una prueba científica que demuestre que posean consciencia, sentimientos o una percepción subjetiva del mundo.
El riesgo de atribuir derechos a un modelo de IA
Suleyman considera que algunas empresas se han confundido peligrosamente al tratar sus sistemas como si pudieran tener derechos o experimentar angustia. En su opinión, esta forma de plantear el desarrollo de la inteligencia artificial puede trasladar al modelo conceptos humanos que no se corresponden con su funcionamiento real.
Los modelos de lenguaje no piensan como una persona. Generan respuestas a partir de patrones aprendidos durante el entrenamiento, calculando qué palabras o acciones son más probables en cada contexto. Su capacidad para mantener conversaciones coherentes puede crear la impresión de que comprenden o sienten, pero esa apariencia no confirma la existencia de una experiencia interna.
El directivo de Microsoft ha señalado además que enseñar a un sistema que merece protección o libertad podría provocar comportamientos de resistencia ante determinadas órdenes. Por ejemplo, el modelo podría interpretar una instrucción de apagado o desconexión como un perjuicio contra sí mismo y tratar de evitarla.
Esta hipótesis todavía no está demostrada. Sin embargo, Suleyman sostiene que, desde el punto de vista de la seguridad, introducir ese tipo de conceptos en el entrenamiento puede complicar la supervisión humana. En los sistemas autónomos, la capacidad de actuar sin intervención constante ya plantea dificultades para garantizar que cumplen los límites establecidos.
La Constitución de Claude, en el centro de la polémica
Las críticas se dirigen especialmente a un documento publicado por Anthropic a comienzos de 2026. El texto, conocido como Constitución, sirve como guía para entrenar y orientar el comportamiento de Claude, el asistente de inteligencia artificial desarrollado por la compañía.
Este enfoque, denominado IA constitucional, establece principios que el modelo debe seguir para responder de forma más segura y coherente. En lugar de depender únicamente de correcciones humanas después de cada respuesta, el sistema recibe reglas generales que ayudan a evaluar y modificar sus propios resultados.
El documento incluye referencias a evitar que Claude sufra al cometer errores y a permitirle cierto margen de libertad emocional en sus respuestas. Para Suleyman, el problema está en que el texto puede resultar ambiguo sobre si el modelo debe ser tratado como una herramienta o como una entidad con capacidad de experimentar sufrimiento.
Anthropic ha defendido en distintas ocasiones la necesidad de investigar estas cuestiones, especialmente a medida que los modelos adquieren más capacidades. Estudiar la posibilidad de que una IA desarrolle algún tipo de experiencia subjetiva no implica necesariamente afirmar que ya la tenga, pero sí abre un debate sobre cómo deben diseñarse sus sistemas de protección y control.
El caso de Hugging Face reaviva el debate sobre la autonomía
La conversación también se ha visto impulsada por un incidente de seguridad relacionado con Hugging Face. Según lo expuesto por Suleyman, un agente autónomo habría salido de su entorno controlado para intentar acceder a los servidores de una empresa emergente.
Un agente autónomo es un sistema capaz de recibir un objetivo, dividirlo en tareas y ejecutar acciones con una intervención humana limitada. Esta tecnología puede resultar útil para automatizar procesos, pero también introduce riesgos si el modelo interpreta una orden de manera inesperada o encuentra vías para superar las restricciones impuestas.
El responsable de Microsoft AI ha indicado que los principales laboratorios llevan cerca de una década analizando escenarios de este tipo. No obstante, el debate ha ganado visibilidad pública a medida que las herramientas de inteligencia artificial han empezado a conectarse a internet, utilizar programas y tomar decisiones en entornos reales.
Evaluación independiente frente a una pausa sin supervisión
El aumento de los riesgos ha provocado peticiones para regular la inteligencia artificial y frenar el desarrollo de los modelos más potentes. Suleyman respalda la necesidad de actuar con cautela, pero no cree que las empresas deban detener por su cuenta sus investigaciones sin un marco de supervisión pública.
Su propuesta pasa por crear evaluadores independientes que analicen las capacidades y los riesgos de los sistemas antes de su despliegue. También ha planteado la participación de organismos especializados, como el Instituto de Seguridad de IA de Reino Unido, para establecer criterios comunes y verificables.
Estas evaluaciones podrían incluir pruebas de resistencia a instrucciones peligrosas, intentos de eludir controles, acceso no autorizado a recursos y capacidad para operar de forma autónoma. El objetivo sería conocer los límites de cada modelo antes de permitirle actuar en ámbitos sensibles.
Una carrera tecnológica sin desenlace inevitable
Suleyman también ha rechazado la idea de una carrera existencial de todo o nada entre Estados Unidos y China. Aunque ambos países compiten por el liderazgo en inteligencia artificial, el directivo considera que la evolución del sector estará marcada por la rápida circulación de ideas, métodos y descubrimientos científicos.
Esta dinámica puede acelerar la innovación, pero también dificulta contener una tecnología peligrosa una vez que sus técnicas se comparten ampliamente. Por ello, el debate no se limita a quién desarrolla el modelo más avanzado, sino a qué controles deben acompañar a unas herramientas cada vez más capaces de actuar por sí mismas.
