Stuart Russell alerta de que un enjambre de drones autónomos podría causar una devastación comparable a la de una bomba de hidrógeno
La inteligencia artificial aplicada al armamento está entrando en una fase que preocupa cada vez más a los expertos. Stuart Russell, catedrático de Informática en la Universidad de California en Berkeley, ha advertido ante el Parlamento británico de que un ataque coordinado con millones de drones kamikaze podría alcanzar un efecto letal comparable, por su magnitud, al de una bomba de hidrógeno.
La comparación no significa que estos dispositivos reproduzcan una explosión nuclear, su onda expansiva o sus efectos radiactivos. El riesgo señalado por Russell se refiere a la capacidad de un enjambre de causar una destrucción masiva mediante la suma de miles o millones de ataques autónomos, distribuidos y difíciles de detener.
La amenaza de los enjambres autónomos
Los drones pequeños ya forman parte de numerosos conflictos y operaciones militares. Su reducido tamaño, su bajo coste y la posibilidad de fabricarlos con componentes disponibles en el mercado los convierten en herramientas accesibles para ejércitos, grupos armados y, potencialmente, organizaciones terroristas.
La incorporación de inteligencia artificial puede multiplicar sus capacidades. Un sistema autónomo podría identificar objetivos, coordinarse con otras unidades, modificar su trayectoria y continuar la misión sin recibir instrucciones permanentes de un operador humano.
En lugar de depender de un único misil o de una aeronave sofisticada, un atacante podría desplegar un gran número de aparatos baratos y prescindibles. La defensa tendría entonces que detectar, clasificar y neutralizar cada unidad en cuestión de segundos, mientras el enjambre adapta su comportamiento a las medidas adoptadas.
La falacia de la propiedad exclusiva
Russell cuestiona lo que denomina la falacia de la propiedad exclusiva: la idea de que las armas más avanzadas solo estarán al alcance de las grandes potencias porque requieren enormes inversiones, infraestructuras complejas y conocimientos especializados.
Según este planteamiento, la evolución de la inteligencia artificial está reduciendo las barreras de acceso. Los modelos de software, los sistemas de navegación, los sensores y buena parte de los componentes necesarios para construir drones se encuentran cada vez más extendidos y son más asequibles.
La combinación de tecnologías comerciales podría permitir que actores no estatales desarrollen sistemas con un nivel de coordinación que antes estaba reservado a los ejércitos. No sería necesario fabricar una máquina extraordinariamente sofisticada, sino conectar muchas unidades sencillas bajo un mismo sistema de control.
Una amenaza difícil de contener
El principal problema de estos enjambres no reside únicamente en su capacidad destructiva. También en la dificultad de atribuir un ataque, anticipar sus objetivos y decidir quién responde cuando las máquinas actúan de forma autónoma.
Un dron programado para localizar y atacar una categoría de objetivos podría tomar decisiones en entornos cambiantes sin que un ser humano intervenga directamente. Un error de identificación, una alteración del software o una información defectuosa podrían desencadenar consecuencias imprevisibles.
Además, los sistemas autónomos pueden superar las limitaciones humanas de velocidad y atención. Un operador puede controlar un número reducido de dispositivos, pero una inteligencia artificial puede coordinar simultáneamente miles de unidades y repartir tareas entre ellas.
- Bajo coste: la pérdida de una unidad no compromete necesariamente toda la operación.
- Escalabilidad: el número de drones puede crecer con rapidez si se utilizan piezas comerciales.
- Coordinación: los aparatos pueden compartir información y reorganizarse durante el ataque.
- Dificultad de defensa: un gran número de objetivos pequeños puede saturar los sistemas de protección.
El debate sobre el control humano
La advertencia vuelve a situar en el centro del debate la necesidad de mantener un control humano significativo sobre las armas autónomas. La cuestión no es solo quién diseña el sistema, sino quién autoriza el uso de la fuerza, cómo se revisan sus decisiones y quién asume la responsabilidad si algo sale mal.
Los defensores de estas tecnologías sostienen que la inteligencia artificial puede mejorar la precisión y reducir la exposición de los soldados. Sus críticos responden que delegar decisiones letales en máquinas introduce riesgos jurídicos, éticos y estratégicos que todavía no están resueltos.
La ausencia de un operador humano en cada decisión también puede rebajar el umbral para iniciar una acción militar. Si desplegar un enjambre resulta barato y no implica poner en peligro a tropas propias, los gobiernos o grupos armados podrían sentirse más inclinados a utilizarlo.
La regulación llega con retraso
El desarrollo de drones autónomos avanza más rápido que la creación de normas internacionales específicas. Aunque existen tratados y principios sobre el uso de la fuerza, todavía no hay un consenso global sobre qué grado de autonomía debe permitirse en un arma capaz de seleccionar y atacar objetivos.
Para Russell, el desafío exige cooperación internacional, controles sobre determinados componentes y límites claros al desarrollo de sistemas letales que operen sin supervisión humana directa. También resulta necesario reforzar la seguridad del software y establecer mecanismos para investigar el origen de un ataque.
La advertencia ante el Parlamento británico apunta a un cambio de escala. El peligro no depende únicamente de que una inteligencia artificial controle un arma extremadamente potente, sino de que pueda coordinar cantidades enormes de dispositivos relativamente sencillos.
En ese escenario, la tecnología que hoy se utiliza para automatizar tareas civiles podría convertirse en una herramienta de guerra accesible para nuevos actores. La carrera por desarrollar estos sistemas ya ha comenzado; el reto para los gobiernos es evitar que la capacidad de destruir crezca más deprisa que las reglas destinadas a limitarla.
