Un experto en seguridad de la IA eleva al 99,9% el riesgo de extinción humana
La posibilidad de que la inteligencia artificial termine provocando la desaparición de la humanidad sigue siendo uno de los escenarios más extremos del debate tecnológico. Sin embargo, un informático especializado en seguridad de la IA y ciberseguridad ha lanzado una advertencia especialmente contundente: calcula que existe un 99,9% de probabilidades de que la inteligencia artificial provoque la extinción humana.
La cifra no representa una predicción científica consensuada ni una estimación aceptada por el sector. Se trata de la valoración personal de un especialista que considera que el desarrollo de sistemas cada vez más autónomos puede avanzar más deprisa que la capacidad de gobiernos y empresas para controlarlos.
El riesgo no estaría solo en los robots físicos
Cuando se habla de una posible rebelión de robots, la imagen habitual es la de máquinas humanoides actuando contra las personas. No obstante, los riesgos que preocupan a los expertos en seguridad de la IA son más amplios y, en algunos casos, menos visibles.
Un sistema avanzado podría influir en infraestructuras críticas, redes de comunicación, mercados financieros o procesos políticos. También podría emplearse para automatizar campañas de desinformación, descubrir vulnerabilidades informáticas o coordinar acciones maliciosas a una velocidad imposible de igualar por los equipos humanos.
La preocupación principal no es necesariamente que una inteligencia artificial desarrolle emociones hostiles. El problema podría surgir si persigue un objetivo mal definido, interpreta sus instrucciones de forma inesperada o dispone de demasiada autonomía y acceso a recursos sensibles.
Una cifra extrema que busca llamar la atención
El 99,9% mencionado por el experto debe interpretarse como una señal de alarma, no como un dato demostrado. Predecir acontecimientos tan complejos resulta especialmente difícil porque todavía no existe una definición única de qué sería una inteligencia artificial capaz de poner en peligro a toda la humanidad.
Además, las estimaciones sobre este riesgo varían de forma considerable. Algunos investigadores lo consideran remoto, mientras que otros creen que debería tratarse como una prioridad internacional. La diferencia depende de factores como la velocidad de desarrollo de los modelos, su nivel de autonomía, el acceso a sistemas externos y la eficacia de los mecanismos de supervisión.
En este contexto, porcentajes tan precisos pueden transmitir una sensación de certeza que la evidencia disponible no permite justificar. Aun así, la advertencia refleja una preocupación real dentro de la comunidad dedicada a la seguridad de la inteligencia artificial.
La carrera por desarrollar modelos más capaces
Las compañías tecnológicas compiten por crear sistemas capaces de razonar, programar, analizar grandes volúmenes de información y ejecutar tareas con una intervención humana cada vez menor. Estas capacidades pueden mejorar la productividad y aportar avances en campos como la medicina, la ciencia o la educación.
El mismo progreso, sin controles suficientes, puede aumentar la superficie de ataque. Un sistema más potente también puede ser utilizado para generar código malicioso, automatizar fraudes, manipular contenidos o coordinar operaciones complejas. La dificultad consiste en aprovechar sus beneficios sin permitir que sus capacidades queden fuera del control humano.
La integración de la IA en servicios esenciales añade otra capa de complejidad. Si hospitales, redes eléctricas, sistemas de transporte o plataformas financieras dependen de decisiones automatizadas, un fallo de diseño, un ataque externo o una orden interpretada de forma incorrecta podría tener consecuencias de gran alcance.
Qué medidas reclaman los expertos
La seguridad de la IA no depende únicamente de mejorar los algoritmos. También requiere establecer límites técnicos, normas jurídicas y procedimientos de respuesta ante incidentes. Entre las medidas más habituales se encuentran:
- Pruebas independientes antes de desplegar sistemas avanzados en entornos reales.
- Supervisión humana efectiva y capacidad de detener el sistema cuando sea necesario.
- Restricciones de acceso a infraestructuras críticas, herramientas peligrosas y datos sensibles.
- Auditorías de ciberseguridad para detectar vulnerabilidades y usos indebidos.
- Cooperación internacional para evitar una carrera tecnológica sin reglas comunes.
- Transparencia sobre los incidentes, los fallos detectados y los límites conocidos de cada modelo.
También se plantea la necesidad de que las empresas puedan demostrar que sus sistemas cumplen unos requisitos mínimos de seguridad antes de ofrecerlos al público. Para ello, los controles deberían aplicarse durante todo el ciclo de vida de la IA, desde su entrenamiento hasta las actualizaciones y el uso cotidiano.
El debate ya no es ciencia ficción
La advertencia sobre una posible extinción humana puede parecer exagerada, pero el debate sobre los riesgos de la inteligencia artificial ha dejado de pertenecer exclusivamente a la ciencia ficción. Los problemas actuales relacionados con la privacidad, la desinformación, los sesgos y los ciberataques muestran que las consecuencias de estas tecnologías ya son tangibles.
La cuestión central no es determinar si la humanidad será destruida por robots, sino decidir cómo se desarrollará y quién controlará una tecnología con capacidad para transformar la sociedad. La cifra del 99,9% carece de consenso, pero sirve para subrayar una idea: la seguridad de la IA no puede tratarse como una preocupación secundaria.
El futuro dependerá, en buena medida, de que la innovación avance acompañada de controles verificables, responsabilidades claras y una supervisión capaz de anticiparse a los riesgos. Sin esas garantías, la promesa de la inteligencia artificial podría quedar eclipsada por sus posibles consecuencias.
