Geoffrey Hinton advierte de un posible Chernóbil de la inteligencia artificial entre 2026 y 2027
Geoffrey Hinton, uno de los científicos considerados padres de la inteligencia artificial moderna y ganador del Nobel de Física, ha elevado el tono de sus advertencias sobre los riesgos de esta tecnología. A su juicio, este mismo año o el próximo podría producirse un incidente de gran escala provocado por una IA, con consecuencias comparables, por su impacto social, a las de un desastre como Chernóbil.
El escenario que plantea no se limita a una respuesta errónea de un chatbot ni a una campaña de desinformación. Hinton teme que un sistema avanzado pueda desencadenar un apagón masivo, interrumpir infraestructuras críticas o paralizar parte de las finanzas mundiales. El científico considera que la creciente autonomía de estas herramientas está avanzando más rápido que los mecanismos diseñados para controlarlas.
Un fallo en cadena con impacto global
La preocupación central del Nobel es la dependencia que tienen las sociedades modernas de redes digitales interconectadas. La electricidad, las telecomunicaciones, los bancos, los mercados y los servicios públicos utilizan sistemas automatizados capaces de tomar decisiones en cuestión de milisegundos.
En ese entorno, un error de diseño, una instrucción mal interpretada o el uso malicioso de una IA podría propagarse con rapidez. Un incidente inicialmente localizado podría afectar a varias empresas, operadores o países si los sistemas comparten proveedores, conexiones y plataformas tecnológicas.
El riesgo no tendría por qué consistir en que una inteligencia artificial decidiera destruir una red de forma deliberada. También podría bastar con que un sistema optimizara una operación financiera, energética o logística sin comprender sus efectos secundarios. La velocidad de actuación de estas herramientas dificultaría la intervención humana una vez iniciado el problema.
La banca y los mercados, entre los puntos más vulnerables
El sector financiero aparece como uno de los ámbitos con mayor exposición. Las entidades utilizan algoritmos para analizar riesgos, detectar fraudes, conceder créditos y ejecutar operaciones. Los mercados, además, reaccionan de forma automática ante cambios de precios, noticias o señales generadas por otros sistemas.
Una IA capaz de influir simultáneamente en miles de operaciones podría generar una espiral de ventas, bloquear transacciones o alterar la confianza de inversores y ciudadanos. Incluso sin provocar pérdidas permanentes, una interrupción temporal de los pagos y del acceso al dinero podría tener efectos inmediatos sobre comercios, empresas y servicios esenciales.
Hinton también sitúa el suministro eléctrico entre los escenarios de mayor riesgo. Las redes de energía dependen cada vez más de programas que equilibran la producción y el consumo, anticipan la demanda y coordinan instalaciones. Una alteración en esos sistemas podría causar cortes amplios y complicar la recuperación si los operadores pierden acceso a las herramientas de supervisión.
Críticas a las grandes tecnológicas
El científico ha cuestionado la actitud de los grandes empresarios tecnológicos, a quienes acusa de priorizar la carrera comercial frente a la seguridad. Las principales compañías compiten por desarrollar modelos más potentes, integrarlos en sus productos y atraer inversión, mientras los controles avanzan a un ritmo más lento.
La presión por lanzar nuevas funciones puede favorecer decisiones poco prudentes: entrenamientos con datos insuficientemente revisados, sistemas conectados a herramientas externas o agentes capaces de ejecutar tareas sin una supervisión constante. Para Hinton, el problema no es únicamente quién controla estas tecnologías, sino si sus creadores comprenden realmente cómo se comportarán en situaciones no previstas.
El experto sostiene que la comunidad científica aún no dispone de métodos plenamente fiables para garantizar que una IA avanzada mantendrá sus objetivos alineados con los intereses humanos. Las pruebas actuales permiten detectar muchos fallos, pero no aseguran que el sistema vaya a comportarse igual cuando opere en entornos reales, con acceso a información, dinero o infraestructuras.
La regulación, ante una carrera contrarreloj
Las advertencias llegan mientras gobiernos y organismos internacionales intentan establecer normas para los modelos de propósito general. La Unión Europea ya ha aprobado un marco basado en niveles de riesgo, pero la aplicación práctica de las obligaciones dependerá de la capacidad de las autoridades para auditar sistemas que cambian con rapidez.
Entre las medidas que reclaman los especialistas figuran las evaluaciones independientes, los límites al acceso de las IA a infraestructuras críticas y la obligación de mantener controles humanos efectivos. También consideran necesario mejorar la trazabilidad de las decisiones automatizadas y coordinar protocolos de respuesta ante incidentes transfronterizos.
La predicción de Hinton no implica que un apagón mundial o un colapso financiero sean inevitables. Su mensaje es una llamada de atención: los riesgos sistémicos deben tratarse antes de que la tecnología alcance una autonomía difícil de contener. En un escenario de dependencia digital creciente, prevenir el primer gran accidente puede resultar mucho menos costoso que reparar sus consecuencias.
