Un investigador de Anthropic calcula en más de un 10% el riesgo de que la IA acabe con la humanidad en la próxima década
Evan Hubinger, investigador especializado en alineación de inteligencia artificial en Anthropic, considera que existe una probabilidad superior al 10% de que la IA pueda matar a todos los seres humanos durante los próximos diez años. El experto admite que el riesgo asociado a los modelos actuales es bajo, pero advierte de que la evolución de estos sistemas puede cambiar radicalmente el escenario.
La estimación, difundida el 9 de septiembre, ha provocado una reacción inmediata en el sector tecnológico. Hubinger no detalló qué mecanismo concreto podría conducir a una extinción humana, aunque situó el principal peligro en el desarrollo de sistemas capaces de mejorar sus propias capacidades y actuar con un grado creciente de autonomía.
El riesgo no estaría en los modelos actuales
La advertencia no sostiene que los sistemas disponibles hoy estén cerca de provocar una catástrofe. El investigador distingue entre el nivel de riesgo presente y la trayectoria de la tecnología: modelos cada vez más capaces podrían superar la capacidad de sus creadores para supervisarlos, limitarlos o corregirlos.
Esta preocupación se encuentra en el centro del campo de la alineación de IA. El término describe el conjunto de técnicas destinadas a conseguir que los objetivos y el comportamiento de un sistema artificial sean compatibles con las intenciones humanas, incluso cuando el modelo se enfrenta a situaciones nuevas o complejas.
El problema aparece cuando una IA puede planificar durante largos periodos, utilizar herramientas, encontrar vulnerabilidades informáticas, obtener recursos o modificar sus propios métodos de trabajo. En ese contexto, un error de diseño o un objetivo mal definido podría tener consecuencias mucho mayores que las de un chatbot convencional.
La advertencia llega tras la salida de otro investigador
Las declaraciones de Hubinger respondían a un mensaje publicado por Jacob Coxon, antiguo investigador de Anthropic y exmiembro de OpenAI, tras anunciar su dimisión. Coxon afirmó que las principales compañías del sector no están actuando con suficiente responsabilidad ante la llegada de sistemas potencialmente superhumanos.
En su opinión, estos modelos podrían llegar a piratear sistemas informáticos, transformar sectores enteros en muy poco tiempo y adquirir acceso a recursos y fuentes de poder reales. La afirmación recibió la atención de especialistas y responsables políticos, precisamente por proceder de una persona con experiencia directa en laboratorios punteros.
Dame Wendy Hall, informática que asesora a Naciones Unidas en materia de inteligencia artificial, expresó su preocupación ante la BBC. La experta también planteó que este tipo de mensajes podría estar relacionado con las estrategias de comunicación de empresas que preparan futuras operaciones financieras, una posibilidad que dificulta separar las advertencias técnicas de los intereses corporativos.
Anthropic rebaja el riesgo actual, pero reconoce señales preocupantes
El informe de seguridad publicado por Anthropic en agosto de 2026 calificó como bajo el riesgo de que sus modelos queden desalineados con los objetivos de una organización poderosa. También evaluó como bajo el peligro de que una IA muy capaz realice investigación y desarrollo automatizados capaces de iniciar daños catastróficos.
Sin embargo, el documento introdujo un matiz relevante: la compañía aseguró tener menos confianza en esa evaluación que en análisis anteriores y reconoció que está observando señales tempranas de una posible aceleración. Esta expresión alude a un escenario en el que los sistemas de IA empiezan a contribuir de forma significativa a la creación de versiones más avanzadas de sí mismos.
La diferencia entre ambas posiciones es importante. Anthropic considera que sus modelos actuales presentan riesgos manejables, mientras que Hubinger alerta sobre la velocidad de progreso de la tecnología y sobre la posibilidad de que los mecanismos de seguridad no evolucionen al mismo ritmo.
Más presión para una supervisión internacional
El debate también ha adquirido una dimensión política. Darren Jones, antiguo secretario jefe del Tesoro británico, pidió al primer ministro del Reino Unido, Andy Burnham, impulsar un tratado multinacional para desarrollar la inteligencia artificial de forma segura.
Además, una carta firmada por 1.300 trabajadores de empresas de IA reclamó al Gobierno de Estados Unidos un esfuerzo internacional para crear herramientas técnicas y marcos de gobernanza capaces de controlar el desarrollo automatizado de los sistemas más avanzados.
La Administración Trump ya restringió en junio el lanzamiento de GPT-5.6 a 20 socios aprobados por el Gobierno. La decisión mostró que Washington está dispuesto a limitar el acceso a modelos de frontera cuando considera que sus capacidades pueden plantear riesgos estratégicos o de seguridad.
Un modelo de Anthropic quedó fuera de una evaluación británica
En paralelo, Anthropic habría retenido su último modelo de una evaluación del AI Security Institute, el organismo del Gobierno británico dedicado a analizar los riesgos de los sistemas de inteligencia artificial más avanzados. La empresa no confirmó ni negó esa información.
Un portavoz del Ejecutivo británico aseguró que las autoridades siguen trabajando con compañías del sector, incluida Anthropic, para mejorar la seguridad de los modelos. La falta de explicaciones públicas, no obstante, ha alimentado las dudas sobre el grado de transparencia en las pruebas de los sistemas de frontera.
La incógnita sobre la intención de estas advertencias
La relevancia de las palabras de Hubinger reside también en su posición. No se trata de un crítico externo, sino de un investigador senior que trabaja en una empresa dedicada precisamente a desarrollar modelos de IA y a estudiar cómo hacerlos más seguros.
Sus declaraciones pueden interpretarse como una advertencia interna especialmente informada o como una defensa indirecta de una regulación estricta que favorezca a las compañías ya establecidas. Este último fenómeno se conoce como foso regulatorio: normas tan costosas de cumplir que terminan dificultando la entrada de nuevos competidores.
El debate seguirá abierto mientras la industria acelera el desarrollo de sistemas con más autonomía. La cuestión central ya no es solo si una IA puede causar daños hoy, sino si la sociedad será capaz de entender, evaluar y controlar la siguiente generación antes de que sus capacidades superen las herramientas disponibles para supervisarla.
