La inteligencia artificial podría poner a prueba el control humano ya en 2028
El desarrollo de sistemas de inteligencia artificial cada vez más capaces puede abrir un escenario de riesgo crítico antes de que termine la década. Paul Christiano, investigador especializado en seguridad de la IA, ha advertido de que el sector debe actuar de inmediato para reducir la posibilidad de accidentes graves y evitar una pérdida irreversible del control humano.
La referencia a 2028 no constituye una predicción cerrada ni significa que una inteligencia artificial vaya a asumir el control de forma automática en esa fecha. Se trata de un horizonte temporal utilizado para llamar la atención sobre la velocidad con la que avanzan estas tecnologías y sobre la necesidad de establecer medidas de seguridad antes de que los sistemas sean mucho más difíciles de supervisar.
El principal riesgo: sistemas difíciles de controlar
Los modelos actuales ya pueden redactar textos, programar, analizar grandes volúmenes de información y ejecutar tareas mediante herramientas externas. Sin embargo, el debate más delicado se centra en los sistemas futuros, capaces de planificar durante más tiempo, aprender de sus propios resultados y operar con un grado de autonomía superior al de los asistentes digitales actuales.
En ese contexto, un sistema podría perseguir un objetivo de una forma no prevista por sus desarrolladores. El problema no tendría que surgir de una intención maliciosa, sino de una interpretación incorrecta de las instrucciones, de errores en los datos de entrenamiento o de la incapacidad humana para anticipar todas sus decisiones.
La preocupación de los especialistas en seguridad de la inteligencia artificial es que un fallo de este tipo pueda amplificarse cuando el sistema tenga acceso a redes, código, recursos informáticos o procesos empresariales. Cuanto mayor sea su autonomía, más complicado resultará detenerlo o corregir su comportamiento después de un incidente.
Medidas que el sector puede aplicar desde ahora
La prevención no depende únicamente de mejorar el rendimiento de los modelos. También exige diseñar mecanismos de control, realizar pruebas independientes y limitar las capacidades de los sistemas cuando no sea posible verificar que funcionan de forma segura.
- Evaluaciones de seguridad: someter los modelos a pruebas diseñadas para detectar comportamientos peligrosos, intentos de eludir restricciones y respuestas inesperadas.
- Supervisión humana: mantener la intervención de personas en las decisiones con consecuencias importantes y evitar que la IA actúe sin autorización en ámbitos sensibles.
- Despliegue gradual: introducir nuevas capacidades por fases, con límites claros y mecanismos para retirar el sistema rápidamente si aparecen problemas.
- Auditorías independientes: permitir que expertos externos revisen los modelos, sus datos, sus controles y los resultados de las pruebas de seguridad.
- Protocolos de emergencia: preparar procedimientos para desconectar servicios, aislar sistemas y recuperar el control ante un comportamiento anómalo.
Estas medidas deberían acompañarse de una mayor transparencia. Las compañías que desarrollan modelos avanzados tendrían que informar sobre sus capacidades, sus limitaciones y los incidentes detectados, especialmente cuando sus productos se integren en infraestructuras críticas o servicios utilizados por millones de personas.
Una carrera tecnológica con riesgos crecientes
El mercado de la IA está marcado por una fuerte competencia entre empresas y países. La presión por lanzar modelos más rápidos y potentes puede favorecer que determinadas comprobaciones se realicen con prisa o que los sistemas se comercialicen antes de disponer de garantías suficientes.
El riesgo, según esta perspectiva, no está solo en una tecnología concreta, sino en la combinación de varios factores: modelos cada vez más capaces, acceso a herramientas externas, incentivos comerciales y una regulación que puede avanzar más despacio que la innovación.
Por eso, la seguridad no debería tratarse como una fase posterior al desarrollo. Incorporarla desde el diseño permitiría detectar antes los fallos y reduciría el coste de corregirlos cuando los sistemas ya estuvieran integrados en empresas, administraciones y servicios esenciales.
El debate sobre la regulación
La advertencia también reabre la discusión sobre el papel de los gobiernos. Las normas pueden establecer requisitos mínimos para los modelos de mayor riesgo, obligar a comunicar incidentes y definir responsabilidades cuando una herramienta automatizada provoque daños.
Al mismo tiempo, una regulación eficaz tendrá que diferenciar entre aplicaciones de bajo impacto y sistemas con capacidad para tomar decisiones autónomas o coordinar operaciones complejas. Un enfoque común para todos los usos podría quedarse corto en los casos más peligrosos o imponer cargas innecesarias a proyectos con riesgos limitados.
La fecha de 2028 funciona, en definitiva, como una llamada de atención. La cuestión no es saber si la inteligencia artificial alcanzará exactamente un determinado nivel en ese año, sino si la sociedad estará preparada para supervisar tecnologías mucho más autónomas que las actuales.
La ventana de actuación sigue abierta, pero las decisiones adoptadas durante los próximos años serán determinantes. Invertir en investigación de seguridad, exigir controles verificables y conservar la capacidad humana de intervención puede marcar la diferencia entre una evolución tecnológica gestionable y un escenario en el que corregir los errores resulte demasiado tarde.



