Un ex empleado de OpenAI alerta de que la industria aún no controla por completo la inteligencia artificial
Las empresas que desarrollan sistemas de inteligencia artificial todavía tienen dificultades para mantenerlos bajo control. Jacob Coxon, antiguo empleado de OpenAI, ha lanzado una advertencia sobre la falta de salvaguardas suficientes ante una tecnología que avanza con más rapidez que los mecanismos diseñados para supervisarla.
Su mensaje pone el foco en uno de los principales riesgos de la actual carrera por construir modelos cada vez más capaces: la distancia entre lo que la IA puede hacer y la capacidad real de las compañías para anticipar, limitar y corregir sus comportamientos.
La seguridad no avanza al mismo ritmo que los modelos
Los sistemas de inteligencia artificial generativa ya redactan textos, analizan información, programan, crean imágenes y ejecutan tareas encadenadas con un grado creciente de autonomía. Sin embargo, que un modelo sea capaz de realizar más funciones no significa que las empresas conozcan con precisión todos sus límites.
La advertencia de Coxon apunta precisamente a esa brecha. Las compañías pueden establecer reglas, filtros y procesos de evaluación, pero estas medidas no siempre garantizan que un sistema responda de forma previsible en todas las situaciones. Las capacidades inesperadas, los errores y las respuestas manipuladas siguen siendo problemas abiertos.
En este contexto, la frase “no contamos con las salvaguardas” resume una preocupación que va más allá de un fallo concreto. Se refiere a la posibilidad de que las herramientas de control no sean todavía suficientemente sólidas para acompañar el despliegue de modelos con mayor autonomía y acceso a recursos externos.
El reto de anticipar comportamientos imprevistos
Una de las dificultades más complejas consiste en evaluar un modelo antes de que llegue a millones de usuarios. Las pruebas internas pueden detectar errores conocidos, pero resulta mucho más difícil prever todas las formas en las que una herramienta será utilizada en entornos reales.
Los usuarios pueden formular instrucciones ambiguas, combinar funciones o intentar sortear los filtros de seguridad. Además, un sistema integrado en aplicaciones, empresas o servicios digitales puede influir en decisiones relevantes sin que siempre quede claro quién debe responder cuando se produce un resultado incorrecto.
La situación se complica cuando la IA deja de limitarse a contestar preguntas y empieza a utilizar herramientas, consultar bases de datos, modificar documentos o realizar acciones de manera parcialmente autónoma. Cuanto mayor es su margen de actuación, más importante resulta disponer de mecanismos eficaces para detenerla, revisar sus decisiones y reconstruir lo sucedido.
Una carrera empresarial con riesgos crecientes
El sector tecnológico vive una fuerte competencia por lanzar modelos más rápidos, baratos y versátiles. Esa presión puede favorecer ciclos de desarrollo muy acelerados, en los que la seguridad se incorpora como una capa adicional sobre productos que ya están diseñados para llegar al mercado en poco tiempo.
El problema no es únicamente técnico. También afecta a la organización interna de las compañías y a sus prioridades. Las medidas de seguridad pueden entrar en conflicto con los objetivos comerciales cuando retrasan un lanzamiento, reducen determinadas capacidades o exigen más recursos para realizar pruebas exhaustivas.
La advertencia de Coxon sugiere que no basta con confiar en la buena voluntad de los desarrolladores. Las empresas necesitan procesos independientes de evaluación, equipos con capacidad real para frenar un despliegue y criterios claros sobre los riesgos que no deben asumirse, aunque exista una oportunidad de negocio.
Qué salvaguardas reclaman los expertos
La seguridad de la inteligencia artificial no depende de una única herramienta. Requiere combinar controles técnicos, supervisión humana y normas que definan responsabilidades. Entre las medidas más relevantes se encuentran:
- Pruebas de seguridad antes del lanzamiento: evaluaciones capaces de someter los modelos a usos maliciosos, instrucciones contradictorias y escenarios extremos.
- Supervisión humana: revisión de las decisiones cuando la IA interviene en ámbitos sensibles o ejecuta acciones con consecuencias reales.
- Permisos limitados: acceso restringido a sistemas, datos y herramientas, con controles que puedan revocarse de inmediato.
- Registro de actividad: trazabilidad suficiente para saber qué instrucciones recibió el modelo, qué información utilizó y por qué generó una respuesta.
- Auditorías independientes: análisis realizados por equipos que no participen directamente en el desarrollo del producto.
La gobernanza será tan importante como la tecnología
El debate sobre el control de la IA también se está trasladando a los gobiernos y a los organismos reguladores. La legislación europea, junto con otras iniciativas internacionales, trata de establecer obligaciones para los sistemas considerados de mayor riesgo. Aun así, las normas deben adaptarse a una tecnología que cambia con rapidez y cuyos usos pueden evolucionar después de su lanzamiento.
Para los usuarios, la cuestión se traduce en una exigencia sencilla: saber cuándo interactúan con una IA, qué puede hacer y qué límites tiene. Para las empresas, implica demostrar que sus productos no solo son útiles, sino también razonablemente seguros y supervisables.
La advertencia del ex empleado de OpenAI llega en un momento en el que la industria presenta la autonomía como uno de los próximos grandes saltos de la inteligencia artificial. Antes de ampliar esas capacidades, el sector tendrá que resolver una pregunta esencial: si todavía no puede controlar por completo los sistemas actuales, ¿está preparado para poner en circulación modelos aún más independientes?
