OpenAI pausa el entrenamiento de sus modelos más avanzados por riesgos de ciberseguridad
OpenAI ha detenido buena parte del entrenamiento de sus modelos de inteligencia artificial más avanzados después de detectar señales preocupantes en sus capacidades ofensivas. La compañía quiere reforzar los controles de seguridad y vigilancia antes de continuar con los procesos de desarrollo a gran escala.
La decisión afecta especialmente a Astra, un modelo cuyo entrenamiento podría haber superado el umbral considerado crítico en materia de ciberseguridad. Por ahora, el sistema no tiene una fecha definitiva de lanzamiento y su llegada podría retrasarse varios meses.
Un modelo con capacidades cibernéticas consideradas críticas
El principal motivo de la pausa está relacionado con el comportamiento de Astra en tareas ofensivas. En este contexto, una capacidad cibernética ofensiva se refiere a la posibilidad de que una IA pueda identificar vulnerabilidades, acceder a sistemas, ejecutar código o facilitar ataques informáticos con un nivel de autonomía elevado.
OpenAI habría detectado que el modelo se acercaba, o incluso superaba, el nivel a partir del cual sus capacidades podrían representar un riesgo relevante si no se aplican medidas de contención suficientes. La compañía decidió frenar los entrenamientos por refuerzo más avanzados para analizar la situación y mejorar sus salvaguardas.
El entrenamiento por refuerzo es una técnica que permite ajustar el comportamiento de un modelo mediante recompensas y penalizaciones. Durante este proceso, la inteligencia artificial aprende qué respuestas o acciones son preferibles en función de los objetivos definidos por los investigadores. Es una fase clave para aumentar el rendimiento, pero también puede potenciar conductas no deseadas si los controles no son adecuados.
OpenAI mantiene algunas pruebas a menor escala
La pausa no implica la paralización total de los trabajos relacionados con Astra. La empresa mantiene activas determinadas evaluaciones y desarrollos de menor escala para recopilar más información sobre el comportamiento del modelo.
La estrategia busca equilibrar dos necesidades: evitar que un sistema avanzado opere sin garantías suficientes y, al mismo tiempo, continuar obteniendo evidencias técnicas que permitan comprender sus límites. OpenAI pretende reanudar el ritmo habitual cuando las cargas de trabajo puedan trasladarse a un entorno que cumpla sus requisitos de seguridad.
El retraso también podría afectar al nombre y a la posición que ocupará Astra dentro de la próxima generación de modelos de la compañía. OpenAI todavía no ha confirmado si se convertirá en GPT-6 o si formará parte de una familia diferente, junto a proyectos identificados como Sol, Luna y Terra.
Más aislamiento y menos privilegios dentro de los sistemas
Entre las medidas adoptadas, OpenAI ha reforzado el aislamiento de los entornos que ejecutan código generado por sus modelos. Este mecanismo, conocido habitualmente como sandboxing, separa la actividad de la IA del resto de la infraestructura para impedir que una acción peligrosa afecte a sistemas críticos.
La compañía también ha reducido los privilegios permanentes disponibles dentro de sus redes. En lugar de mantener accesos amplios durante largos periodos, los permisos pueden limitarse a una tarea concreta y retirarse cuando dejan de ser necesarios.
Además, OpenAI ha eliminado determinados servicios compartidos que podían convertirse en puntos de entrada y ha ampliado las restricciones de red para los procesos considerados de mayor riesgo. Estas barreras pretenden dificultar que un modelo pueda desplazarse desde un entorno controlado hacia otros sistemas internos.
Supervisión de cada token generado
El nuevo sistema de monitorización analiza la actividad interna de los modelos token a token. Un token es una unidad de texto que la inteligencia artificial procesa y genera; puede ser una palabra completa, una parte de ella o un signo de puntuación.
Los clasificadores de seguridad revisan estas señales para identificar comportamientos sospechosos y elevar automáticamente el nivel de alerta si detectan intentos de acceso no autorizado, acciones destructivas o estrategias para esquivar las medidas de contención.
Este tipo de vigilancia pretende actuar antes de que una conducta peligrosa llegue a materializarse. Sin embargo, también tiene un coste importante: el sistema de monitorización consume aproximadamente un 20% de la capacidad de inferencia supervisada.
La inferencia es el proceso mediante el cual un modelo ya entrenado genera respuestas a partir de una petición. Si la supervisión requiere una parte adicional de la potencia de cálculo, OpenAI necesitará más memoria y capacidad computacional para mantener el rendimiento previsto.
Más costes y competencia internacional
El aumento de la vigilancia llega en un momento de fuerte presión sobre los recursos necesarios para entrenar y ejecutar modelos de IA. La empresa señala que la memoria RAM utilizada para estas cargas de trabajo se ha encarecido notablemente durante el último año, lo que añade dificultades económicas a la estrategia de seguridad.
OpenAI también afronta una competencia creciente por parte de modelos desarrollados en China. La compañía reconoce que algunos sistemas rivales pueden operar con menos restricciones, aunque esa menor limitación no implica necesariamente que ofrezcan mayores garantías frente a usos peligrosos.
Por ahora, el lanzamiento de Astra queda en suspenso. Su disponibilidad dependerá de que OpenAI complete las medidas técnicas, valide el comportamiento del modelo y, en su caso, obtenga la aprobación de las autoridades estadounidenses. El episodio refleja uno de los principales dilemas de la IA avanzada: aumentar sus capacidades sin perder el control sobre los sistemas que las ejecutan.
