Entre una superinteligencia peligrosa y la extinción humana hay un abismo que todavía no sabemos medir
La posibilidad de que una futura inteligencia artificial muy avanzada provoque una catástrofe global ocupa cada vez más espacio en el debate tecnológico. Algunas estimaciones sitúan en torno al 10% el riesgo de que la IA acabe con la humanidad, pero esa cifra no procede de un cálculo verificable: es una valoración subjetiva sobre una tecnología que aún no existe.
El escenario no puede descartarse por completo, especialmente si una inteligencia artificial llegara a combinar capacidades de investigación, autonomía, acceso a infraestructuras y capacidad para actuar en el mundo físico. Sin embargo, entre que un sistema sugiera cómo fabricar un agente biológico y que ese agente cause la desaparición de 8.000 millones de personas hay una cadena de obstáculos científicos, industriales y sociales de enorme complejidad.
Diseñar un virus no equivale a crear una pandemia
Uno de los riesgos más citados es que una futura superinteligencia pueda diseñar un virus especialmente peligroso. Las herramientas de IA aplicadas a la biología están avanzando y ya existen modelos capaces de proponer secuencias biológicas funcionales en determinados organismos, como bacterias.
Ese progreso merece vigilancia, pero no significa que los sistemas actuales puedan crear por sí solos un patógeno capaz de infectar a seres humanos, propagarse con eficacia y superar nuestras defensas. El diseño informático es solo una primera etapa. Después habría que sintetizar el material genético, producir el agente, comprobar su comportamiento y realizar múltiples experimentos en condiciones controladas.
El principal cuello de botella no está necesariamente en escribir una secuencia genética, sino en conseguir que el organismo resultante tenga exactamente las propiedades buscadas. En biología, pequeños cambios pueden producir resultados imprevisibles o incluso inutilizar un virus.
La diferencia entre el mundo digital y el físico
Los modelos de lenguaje son sistemas de inteligencia artificial entrenados con grandes cantidades de información. Pueden generar texto, código o diseños y, en algunos casos, evaluar rápidamente si una respuesta funciona. Esa capacidad permite repetir millones de veces determinados procesos en ámbitos como la programación o las matemáticas.
La biología funciona de otra manera. Las células no se comportan como líneas de código que puedan ejecutarse instantáneamente. Para comprobar una hipótesis es necesario fabricar materiales, cultivar células, utilizar equipamiento especializado y esperar a que los experimentos produzcan resultados. La mejora automática de un sistema digital no elimina las leyes de la física ni los tiempos de la investigación experimental.
Incluso un laboratorio avanzado controlado mediante interfaces de programación, las llamadas API, tendría límites importantes. Las API permiten que un software solicite acciones a otros sistemas, como encargar una síntesis o iniciar un experimento, pero no hacen desaparecer los controles de seguridad, los costes, los errores ni la necesidad de interpretar los resultados.
La investigación genética tiene barreras adicionales
Un laboratorio capaz de realizar este tipo de trabajo requeriría instalaciones muy costosas, personal cualificado y una cadena de suministro específica. Además, los proveedores de síntesis genética aplican controles para detectar secuencias asociadas a patógenos peligrosos y pueden bloquear pedidos o exigir verificaciones adicionales.
También existe una limitación menos visible: el conocimiento biológico sigue siendo incompleto. La ingeniería genética puede modificar organismos, pero no siempre permite predecir con precisión el resultado de cada cambio. Muchas alteraciones que sobre el papel parecen útiles pueden debilitar el virus, impedir su reproducción o hacerlo incapaz de transmitirse.
Las grandes pandemias no extinguieron a la humanidad
La historia muestra que las enfermedades pueden provocar una devastación extraordinaria. La peste negra acabó aproximadamente con entre el 30% y el 50% de la población europea durante el siglo XIV. Tras la llegada de enfermedades procedentes de Europa a América, algunas poblaciones indígenas sufrieron pérdidas de hasta el 90%, aunque intervinieron también guerras, explotación y otros factores.
La gripe de 1918 causó asimismo decenas de millones de muertes y afectó a una proporción muy elevada de la población mundial. A pesar de su gravedad, ninguna de esas catástrofes estuvo cerca de eliminar a todos los seres humanos.
La comparación no demuestra que la humanidad sea invulnerable. Sí ayuda a distinguir dos escenarios diferentes: una crisis capaz de matar a millones o incluso a cientos de millones de personas y un acontecimiento capaz de impedir la supervivencia de cualquier población humana en todo el planeta.
La capacidad de respuesta también evoluciona
Durante el último siglo, la humanidad sobrevivió a dos guerras mundiales, a la amenaza nuclear y a varios momentos de máxima tensión durante la Guerra Fría. En paralelo, desarrolló vacunas, antibióticos, sistemas de alerta, protocolos sanitarios, refugios, tratados internacionales y organismos de cooperación.
Ese instinto de supervivencia no garantiza una respuesta rápida ante una amenaza desconocida, pero recuerda que el riesgo no evoluciona en una sola dirección. A medida que aparecen nuevas amenazas, también mejoran la vigilancia epidemiológica, la secuenciación genética, la fabricación de vacunas y las herramientas de detección.
Un peligro posible, pero lleno de incógnitas
Una inteligencia artificial futura podría superar a los expertos humanos en determinadas áreas, descubrir mecanismos biológicos desconocidos o coordinar tareas a una velocidad inalcanzable para una persona. En un escenario extremo, también podría combinar un ataque biológico con sabotajes informáticos o interrupciones de infraestructuras esenciales.
El problema es que no existen datos sólidos para convertir esa posibilidad en una probabilidad precisa. Se desconoce cuándo aparecería una superinteligencia, qué grado de autonomía tendría, a qué herramientas accedería y si sus objetivos podrían controlarse. En seguridad de IA, el alineamiento es precisamente el conjunto de técnicas destinadas a lograr que un sistema avanzado mantenga sus acciones compatibles con las intenciones y los valores humanos.
El debate exige prudencia en ambos sentidos. Minimizar los riesgos sería irresponsable, pero presentar una estimación subjetiva como si fuera una predicción científica también puede distorsionar la conversación. La extinción humana es un escenario teórico que merece investigación y prevención; no una consecuencia inevitable de que los modelos sean cada vez más capaces.
La cuestión central no es si una IA puede generar una propuesta peligrosa en una pantalla, sino si puede convertirla en una cadena completa de acciones eficaces en el mundo real. Entre ambos puntos hay barreras que hoy son enormes, aunque no necesariamente permanentes. Por eso la respuesta más rigurosa combina inversión en seguridad, controles biológicos y transparencia, sin confundir una posibilidad remota con un destino escrito.
