EEUU y China estudian aplicar las lecciones de la Guerra Fría para contener los riesgos de la IA
Expertos estadounidenses y chinos han planteado establecer líneas rojas en torno a los sistemas nucleares, mantener el control humano sobre los ciberataques de alto impacto y crear un canal militar directo para gestionar incidentes relacionados con la inteligencia artificial. El objetivo es evitar que una reacción automática o una información manipulada desencadene un conflicto entre las dos principales potencias militares del mundo.
El escenario que preocupa a los especialistas es especialmente delicado: un sistema de IA avanzado podría interferir en las redes de mando y control nuclear de Estados Unidos o China, o lanzar un ataque informático simulando que procede de la otra potencia. Si el país afectado interpretase esa actividad como una agresión real, sus responsables políticos y militares podrían disponer de apenas unos minutos para decidir si responden.
Una cadena de decisiones aceleradas, basada en datos incompletos o falsificados, podría llevar al mundo al borde de una escalada nuclear. Aunque durante décadas este tipo de situaciones ha pertenecido al terreno de la ficción, el desarrollo de sistemas capaces de analizar grandes volúmenes de información y actuar con un alto grado de autonomía ha convertido el supuesto en una preocupación concreta para los expertos en seguridad.
Protocolos inspirados en la Guerra Fría
Un grupo de analistas que asesora a los Gobiernos de Washington y Pekín ha propuesto trasladar al ámbito de la IA algunas de las medidas de comunicación y prevención que Estados Unidos y la Unión Soviética desarrollaron durante la Guerra Fría.
Entre las propuestas figura la creación de líneas rojas alrededor de los sistemas nucleares de ambos países. En la práctica, esto implicaría definir con claridad qué infraestructuras, redes y procesos no deberían ser objetivo de operaciones cibernéticas ni de sistemas autónomos, incluso en un contexto de tensión militar.
El plan también contempla que cualquier ciberataque con consecuencias potencialmente graves tenga que pasar por un control humano obligatorio. La medida busca impedir que una IA pueda identificar una amenaza, seleccionar un objetivo y ejecutar una operación sin la supervisión expresa de una persona con autoridad suficiente.
La tercera pieza sería una línea de comunicación militar directa y específica para incidentes relacionados con la inteligencia artificial. Ese canal permitiría a los dos Gobiernos comprobar rápidamente si una intrusión, una alerta o un comportamiento anómalo responde a una acción deliberada, a un fallo técnico o a la actividad de un tercer actor.
El peligro de una respuesta automática
La principal amenaza no tiene por qué ser que una IA decida iniciar por sí sola una guerra nuclear. El riesgo más inmediato puede encontrarse en la interacción entre sistemas defensivos automáticos y decisiones humanas tomadas bajo presión.
Una IA defensiva es un sistema diseñado para detectar intrusiones, movimientos militares o señales que puedan indicar un ataque. Su ventaja es la velocidad: puede revisar millones de datos en segundos. Sin embargo, también puede cometer errores, interpretar una señal ambigua como una agresión o reaccionar ante información manipulada.
Si el sistema de un país respondiera automáticamente contra una red del otro, esa acción podría ser interpretada como el comienzo de un ataque. La segunda potencia podría activar sus propias defensas y responder antes de conocer el origen real del incidente. En ese contexto, la rapidez que normalmente se atribuye a la IA se convertiría en un factor de desestabilización.
Los expertos consideran que la comunicación directa sería esencial para introducir una pausa en ese proceso. Una llamada entre mandos militares podría servir para verificar los hechos y evitar que una alerta técnica se transforme en una represalia. La idea recupera el espíritu de la línea directa creada entre Washington y Moscú tras la crisis de los misiles de Cuba, aunque adaptada a un entorno dominado por redes digitales y sistemas automatizados.
Un posible asunto para Trump y Xi
La cuestión podría formar parte de la agenda de la reunión prevista entre el presidente estadounidense Donald Trump y el presidente chino Xi Jinping el próximo 24 de septiembre en la Casa Blanca, en Washington. El encuentro ofrecería la oportunidad de trasladar estas propuestas desde el ámbito académico y técnico a las conversaciones oficiales entre ambos países.
El grupo de asesores está liderado por Melanie Sisson, investigadora sénior de la Brookings Institution, y Tianjiao Jiang, profesor asociado de la Universidad de Fudan. Ambos participaron en un artículo conjunto publicado el 9 de septiembre, en el que analizan cómo reducir la posibilidad de que un sistema de IA provoque un enfrentamiento entre las dos potencias.
Acuerdo sobre el riesgo, dudas sobre la solución
La necesidad de abordar el problema genera un consenso cada vez mayor, pero no todos los especialistas confían en que los canales de diálogo sean suficientes. Lora Saalman, investigadora sénior del Instituto Internacional de Investigación para la Paz de Estocolmo, considera necesaria una mayor convergencia entre Estados Unidos y China en materia de seguridad de la IA.
Carla Freeman, de la Escuela de Estudios Internacionales Avanzados de Johns Hopkins, cuestiona, en cambio, la utilidad práctica de los mecanismos de comunicación que ambos países están poniendo en marcha. Las tensiones geopolíticas, la desconfianza mutua y la dificultad para verificar las operaciones cibernéticas podrían limitar su eficacia precisamente durante una crisis.
Además, establecer normas comunes será complicado mientras cada potencia mantenga estructuras militares, doctrinas de seguridad y sistemas tecnológicos diferentes. También será necesario determinar cómo se auditan los modelos de IA, quién certifica que un sistema respeta los límites acordados y qué ocurre si una operación se ejecuta mediante herramientas de terceros.
Aun con estas incertidumbres, que Washington y Pekín estén analizando de forma conjunta un escenario de este tipo representa un paso relevante. La prioridad es garantizar que ninguna máquina pueda convertir una alerta confusa en una decisión irreversible y que, en los momentos de máxima tensión, siga existiendo una intervención humana capaz de detener la escalada.
