Los antiguos responsables de la IA alertan de un riesgo que las empresas aún no saben controlar
El desarrollo de la inteligencia artificial avanza más deprisa que la capacidad de las compañías y de los gobiernos para supervisarlo. Investigadores, directivos e ingenieros que trabajaron en empresas como OpenAI, Google o Anthropic han advertido en los últimos años de una combinación especialmente delicada: sistemas cada vez más autónomos, controles de seguridad insuficientes y una carrera comercial que deja poco margen para detenerse.
Sus preocupaciones no se limitan a los errores de un chatbot. Apuntan a problemas de mayor alcance, como la dificultad para comprender el funcionamiento interno de los modelos, el uso de la IA en operaciones militares, la difusión de información falsa y la posibilidad de que algunas herramientas actúen de forma imprevista cuando reciben más capacidad para ejecutar tareas.
Una tecnología que crece más rápido que sus controles
Los modelos de inteligencia artificial generativa ya redactan textos, crean imágenes, programan, analizan documentos y utilizan otras aplicaciones digitales. La siguiente generación pretende dar un paso más: sistemas capaces de planificar, tomar decisiones y completar objetivos con una intervención humana mínima.
Ese salto introduce nuevos riesgos. Un modelo que solo responde a una pregunta puede equivocarse o inventar datos. Un sistema conectado a una cuenta bancaria, una red corporativa o una infraestructura crítica podría, en cambio, provocar consecuencias reales si interpreta mal una instrucción o encuentra una manera inesperada de cumplirla.
Los expertos que han trabajado en el sector sostienen que las pruebas actuales no siempre reflejan el comportamiento de estos sistemas en situaciones complejas. Las evaluaciones pueden medir si una IA responde de forma adecuada en un entorno controlado, pero no necesariamente cómo actuará cuando combine herramientas, reciba instrucciones contradictorias o intente alcanzar un objetivo durante un periodo prolongado.
El problema de no saber exactamente cómo decide una IA
Una de las principales dificultades es la falta de transparencia. Los modelos se entrenan con cantidades enormes de datos y generan respuestas a partir de patrones difíciles de interpretar incluso para sus creadores. Aunque los investigadores pueden observar las entradas y las salidas, no siempre pueden explicar con precisión por qué el sistema ha escogido una determinada respuesta.
Esta opacidad complica la detección de fallos antes de que lleguen al público. También dificulta garantizar que un modelo mantendrá sus límites cuando se enfrente a una situación que no apareció durante el entrenamiento. Las técnicas de seguridad actuales reducen algunos comportamientos peligrosos, pero no ofrecen una garantía absoluta.
El riesgo aumenta a medida que las empresas incorporan memoria, acceso a internet, capacidad de programación y conexión con servicios externos. Cada nueva función amplía la utilidad del sistema, pero también su superficie de ataque y el número de formas en las que puede ser manipulado.
La carrera empresarial y la presión por lanzar nuevos productos
El sector atraviesa una competición intensa por liderar la inteligencia artificial. Las grandes tecnológicas invierten miles de millones en centros de datos, chips y modelos más potentes, mientras las empresas emergentes intentan diferenciarse con productos capaces de realizar tareas cada vez más complejas.
Quienes han expresado sus dudas desde dentro de estas organizaciones describen una tensión entre la seguridad y la velocidad de lanzamiento. Los controles necesitan tiempo, equipos especializados y capacidad para frenar un producto. La presión del mercado, en cambio, premia las novedades y la llegada rápida a millones de usuarios.
En ese contexto, una parte de los especialistas teme que las decisiones críticas queden concentradas en un número reducido de compañías. Si los sistemas más avanzados pertenecen a unos pocos actores privados, la sociedad tendrá dificultades para auditar sus riesgos o exigir responsabilidades cuando algo salga mal.
Usos militares y proliferación de herramientas peligrosas
Otro foco de preocupación es la aplicación de la IA en el ámbito militar y de seguridad. El análisis automático de imágenes, la selección de objetivos, la vigilancia y la planificación operativa pueden aumentar la capacidad de los ejércitos, pero también reducen el tiempo disponible para que una persona revise una decisión.
La utilización de sistemas autónomos en conflictos plantea dudas legales y éticas. Si una herramienta identifica por error a un civil o recomienda una acción desproporcionada, no siempre está claro quién debe asumir la responsabilidad: el fabricante, el operador, la autoridad que la desplegó o el propio sistema.
Además, las capacidades desarrolladas para fines legítimos pueden reutilizarse con objetivos dañinos. La automatización facilita la creación de campañas de desinformación, ataques informáticos más eficaces y contenidos falsos difíciles de distinguir de los reales. La barrera de entrada para estas actividades puede reducirse de forma considerable.
Qué medidas reclaman los expertos
Las advertencias coinciden en la necesidad de establecer límites antes de que los sistemas más autónomos se generalicen. Entre las medidas propuestas figuran auditorías independientes, registros de incidentes, evaluaciones obligatorias para los modelos de alto riesgo y una supervisión pública con capacidad real para imponer sanciones.
- Pruebas de seguridad realizadas por equipos externos a las compañías.
- Rastreo de las decisiones y acciones ejecutadas por los agentes de IA.
- Controles estrictos para conectar modelos con infraestructuras críticas.
- Normas internacionales sobre usos militares y sistemas autónomos.
- Protección para los empleados que denuncien fallos de seguridad.
El debate no implica detener toda la innovación ni renunciar a los beneficios de la inteligencia artificial. Sí plantea una cuestión básica: quién controla la tecnología cuando sus capacidades superan la comprensión de sus propios desarrolladores.
La advertencia más relevante de quienes han trabajado en primera línea es que la preparación no puede llegar después del accidente. Si la IA va a intervenir en decisiones económicas, sociales y estratégicas, sus mecanismos de seguridad deberán avanzar al menos al mismo ritmo que sus capacidades.
