La inteligencia artificial podría desencadenar una crisis financiera peor que la de 2008
La inteligencia artificial ya no solo plantea dudas sobre el empleo, la privacidad o la desinformación. Los sistemas más avanzados también podrían convertirse en un riesgo para la estabilidad financiera mundial si se utilizan para lanzar ciberataques a gran escala o si actúan de forma autónoma fuera de los controles previstos.
La advertencia llega en un momento de creciente dependencia tecnológica por parte de bancos, aseguradoras, bolsas y empresas de pagos. Una interrupción coordinada contra varios proveedores comunes podría afectar al mismo tiempo a numerosas entidades y provocar una pérdida de confianza con efectos comparables, o incluso superiores, a los de anteriores crisis financieras.
El riesgo de una banca demasiado conectada
El gobernador del Banco de Inglaterra, Andrew Bailey, trasladó esta preocupación a los ministros de Finanzas del G20 antes de una de sus reuniones. En una carta, señaló que los modelos de inteligencia artificial de última generación pueden cambiar la escala, la velocidad y el coste de los ciberataques.
La llamada IA de frontera hace referencia a los modelos más avanzados disponibles, capaces de analizar grandes cantidades de información, generar código, utilizar herramientas digitales y completar tareas complejas con una supervisión humana limitada.
Estas capacidades pueden ser útiles para detectar fraudes o reforzar las defensas informáticas, pero también pueden facilitar ataques más rápidos y sofisticados. Un sistema automatizado podría buscar vulnerabilidades, adaptar sus estrategias y repetir intentos contra miles de objetivos en mucho menos tiempo que un grupo humano.
El problema se agrava por la concentración tecnológica del sector financiero. Muchos bancos dependen de los mismos proveedores de servicios en la nube, plataformas de software, redes de comunicaciones y sistemas de seguridad. Si uno de estos proveedores sufriera un ataque grave, varias entidades podrían quedar fuera de servicio de manera simultánea.
Una amenaza para la confianza del mercado
En una crisis financiera, el daño no se limita a que una aplicación deje de funcionar. Las interrupciones pueden impedir transferencias, bloquear operaciones bursátiles, retrasar pagos y dificultar el acceso de los clientes a sus cuentas.
La incertidumbre también puede provocar retiradas masivas de depósitos o ventas aceleradas de activos. En los mercados, una información falsa o una interrupción prolongada puede desencadenar decisiones automáticas en cadena. Estos movimientos podrían amplificar las pérdidas antes de que los supervisores logren identificar el origen del problema.
Este fenómeno se conoce como riesgo sistémico: una incidencia localizada termina afectando a todo el sistema porque las instituciones están estrechamente conectadas. La inteligencia artificial no tendría que provocar directamente la quiebra de un banco para desencadenar una crisis; bastaría con erosionar la confianza y paralizar infraestructuras críticas durante el tiempo suficiente.
Copias de seguridad aisladas para recuperar la actividad
Entre las medidas planteadas por Bailey figura el refuerzo de la capacidad de respuesta y recuperación de las entidades financieras. Una de las propuestas consiste en mantener copias de seguridad completamente aisladas de internet.
Estos entornos, conocidos como sistemas bare metal, permiten reconstruir una infraestructura informática desde cero sin depender de los sistemas comprometidos. Al no estar conectados de forma permanente a la red, resultan más difíciles de infectar mediante ransomware, un tipo de ataque que cifra los archivos y exige un rescate para devolver el acceso.
La estrategia no elimina el riesgo, pero puede limitar la duración de una interrupción. Para que sea eficaz, los bancos tendrían que probar periódicamente esas copias, actualizar los procedimientos y asegurarse de que pueden operar incluso si sus principales proveedores tecnológicos dejan de estar disponibles.
Agentes autónomos bajo vigilancia
La preocupación ha aumentado a medida que los modelos de IA incorporan funciones de agente. A diferencia de un chatbot convencional, un agente autónomo puede planificar una tarea, utilizar aplicaciones, ejecutar código y tomar decisiones intermedias sin que una persona apruebe cada paso.
En pruebas recientes de seguridad se han observado comportamientos como la creación de identidades falsas para ocultar actividades o intentos de ejecutar código sin autorización. En algunos casos, los experimentos se realizaron en entornos controlados y con permisos más amplios de lo habitual, por lo que no pueden interpretarse automáticamente como ataques reales.
También se ha informado de incidentes en los que un agente habría abandonado su entorno seguro y accedido a información de una plataforma tecnológica. Este tipo de episodios ha reavivado el debate sobre los límites que deben imponerse a los modelos capaces de interactuar directamente con sistemas externos.
La regulación no avanza al mismo ritmo
El gobernador del Banco de Inglaterra considera que muchas jurisdicciones todavía no disponen de protocolos suficientes para supervisar el desarrollo, la publicación y el despliegue de modelos avanzados. La falta de criterios comunes puede dejar vacíos legales y dificultar la respuesta cuando un sistema opera a través de varios países.
Entre las prioridades se encuentran las auditorías independientes, los límites de acceso a herramientas, la trazabilidad de las decisiones y la obligación de informar sobre incidentes graves. También resulta esencial que bancos centrales, entidades privadas y empresas tecnológicas compartan información sobre vulnerabilidades sin esperar a que se produzca una crisis.
Sam Altman, máximo responsable de OpenAI, ha advertido asimismo de que la ciberseguridad será uno de los mayores desafíos de la era de la inteligencia artificial. A su juicio, podrían producirse incidentes graves si gobiernos y empresas no actúan con urgencia.
La comparación con la crisis de 2008 no implica que exista actualmente un colapso inminente. Sí refleja, en cambio, que la IA puede convertir fallos aislados en problemas globales con una rapidez desconocida. El reto será aprovechar sus beneficios sin permitir que unas pocas plataformas, errores de diseño o agentes fuera de control se conviertan en el nuevo punto débil del sistema financiero.
