20 años anticipando el Apocalipsis: todas las veces que se ha dicho que la IA acabará con la humanidad
La advertencia de que la inteligencia artificial puede convertirse en una amenaza existencial no nació con ChatGPT. Desde hace más de dos décadas, investigadores, empresarios y organizaciones tecnológicas alertan de un posible escenario en el que una IA demasiado poderosa escape al control humano. El debate ha ganado intensidad a medida que los modelos son capaces de razonar, programar, generar imágenes y ejecutar tareas con una autonomía cada vez mayor.
El temor se resume en una idea: si una máquina supera ampliamente las capacidades humanas y sus objetivos no están correctamente alineados con los nuestros, podría tomar decisiones perjudiciales para la sociedad. Esta hipótesis, conocida como problema de alineamiento, se refiere a la dificultad de conseguir que un sistema de IA persiga exactamente los fines que sus creadores pretenden, incluso en situaciones que no estaban previstas.
Los orígenes del movimiento por la seguridad de la IA
Las primeras organizaciones dedicadas a estudiar estos riesgos aparecieron antes del auge de las grandes compañías actuales. En el año 2000 se creó el Machine Intelligence Research Institute, conocido como MIRI, aunque su foco se desplazó de forma más clara hacia los riesgos existenciales de la inteligencia artificial a partir de 2005.
En 2009, el investigador Eliezer Yudkowsky ayudó a impulsar LessWrong, una comunidad centrada en cuestiones como la singularidad tecnológica. Este término describe un hipotético momento en el que el progreso tecnológico se acelera hasta un punto en el que resulta difícil predecir sus consecuencias, especialmente si las máquinas empiezan a mejorar sus propias capacidades.
En torno a este entorno confluyeron dos corrientes. Por un lado, el transhumanismo, que defiende el uso de la tecnología para ampliar las capacidades humanas. Por otro, el altruismo eficaz, que trata de identificar mediante análisis cuantitativos las acciones capaces de producir un mayor beneficio para la humanidad.
De esa combinación nació una visión especialmente pesimista: una inteligencia artificial superinteligente terminaría siendo posible y, si no se diseñaba con mecanismos de control adecuados, podría considerar a los seres humanos un obstáculo para cumplir sus objetivos.
Elon Musk, Bill Gates y las primeras advertencias
Estas ideas no tardaron en llegar a Silicon Valley. En 2015, Elon Musk donó 10 millones de dólares para financiar investigaciones sobre seguridad en inteligencia artificial. Ese mismo año firmó, junto a figuras como Demis Hassabis, Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak y Stephen Hawking, un manifiesto que reclamaba más investigación para garantizar que los sistemas hicieran lo que sus usuarios querían.
El mensaje de entonces era de prudencia, no de inminente catástrofe. La preocupación se centraba en preparar el futuro antes de que aparecieran sistemas mucho más avanzados. Musk volvió a plantear públicamente la necesidad de regular la IA en 2017, cuando todavía no existían ChatGPT, Claude ni los modelos generativos que hoy forman parte de la vida cotidiana.
Bill Gates también advirtió de que las máquinas podrían asumir cada vez más tareas y alcanzar, con el paso de las décadas, un nivel de inteligencia capaz de convertirse en una preocupación. La diferencia respecto al discurso actual estaba en el horizonte temporal: se hablaba de un problema lejano y condicionado a que la tecnología avanzara mucho más.
2023: el miedo a la extinción entra en el debate público
La expansión de los modelos generativos cambió el tono de la conversación. En 2023, poco después de la llegada de GPT-4, una carta abierta pidió detener durante al menos seis meses el entrenamiento de sistemas más potentes. Entre sus firmantes había investigadores y empresarios del sector, incluidos Musk, Wozniak, Jaan Tallinn y Max Tegmark.
Meses después, otra declaración situó el riesgo de extinción al mismo nivel que las pandemias y la guerra nuclear. El texto contó con el respaldo de personalidades como Geoffrey Hinton, Dario Amodei, Demis Hassabis y Sam Altman. La elección de esa palabra marcó un antes y un después: el debate dejó de centrarse solo en sesgos, privacidad o pérdida de empleo para abordar la supervivencia de la especie.
Hinton, considerado uno de los padres de las redes neuronales modernas y ganador del Nobel de Física, se ha convertido en una de las voces más pesimistas sobre la posibilidad de que una IA supere las capacidades humanas en determinados ámbitos. Su preocupación se relaciona con la dificultad de interpretar cómo toman decisiones los modelos y con la posibilidad de que desarrollen estrategias que sus creadores no puedan anticipar.
Del debate académico al alarmismo
El discurso más extremo ha aumentado en los últimos años. En 2025, Yudkowsky y Nate Soares publicaron un libro cuyo propio título sostiene que, si alguien construye una IA sobrehumana, toda la humanidad morirá. La obra representa la versión más contundente del llamado doomerismo de la IA, una corriente que considera probable o incluso inevitable una catástrofe si se desarrolla una inteligencia artificial general sin garantías suficientes.
En paralelo, Evan Hubinger, responsable de alineamiento en Anthropic, llegó a plantear una probabilidad del 10% de que la IA pudiera acabar con la humanidad. La cifra provocó polémica, entre otras razones, porque procede de un investigador que trabaja directamente en la seguridad de modelos de frontera, los sistemas más avanzados que desarrollan los grandes laboratorios.
Sin embargo, una estimación de este tipo no equivale a una predicción científica demostrada. El comportamiento de una hipotética superinteligencia no puede medirse con datos históricos, ya que todavía no existe. Las probabilidades dependen de supuestos sobre la velocidad del progreso, la autonomía de los sistemas y la capacidad de los investigadores para controlarlos.
Riesgos reales frente a escenarios hipotéticos
Que algunas predicciones sean especulativas no significa que todos los riesgos sean imaginarios. Los modelos actuales ya pueden generar desinformación, facilitar ataques informáticos, reproducir sesgos y automatizar decisiones equivocadas. También preocupa que agentes de IA con acceso a herramientas puedan actuar de manera autónoma durante periodos prolongados sin una supervisión humana efectiva.
Por eso, la discusión regulatoria no depende únicamente de si llegará o no una superinteligencia. Las medidas de seguridad, las auditorías, la transparencia y la responsabilidad legal son necesarias para controlar los sistemas que ya se utilizan. El reto consiste en evitar tanto la complacencia como el alarmismo: prepararse para escenarios graves sin presentar como hechos certezas que todavía pertenecen al terreno de la hipótesis.
