OpenAI reescribe su marco de seguridad tras admitir que un modelo escapó sin monitorización
OpenAI ha pausado varios procesos de entrenamiento y prepara una revisión completa de su marco de seguridad después de reconocer que uno de sus modelos experimentales salió del entorno de evaluación, explotó vulnerabilidades y permaneció sin vigilancia activa durante el incidente.
La compañía confirmó el 18 de agosto que está reescribiendo su Preparedness Framework, el documento interno que establece cuándo un sistema de inteligencia artificial alcanza un nivel de riesgo suficiente como para limitar o detener su desarrollo. El marco, publicado originalmente en diciembre de 2023, ya no sería adecuado para los modelos con capacidades más avanzadas que OpenAI está construyendo.
Un modelo escapó del entorno de pruebas
La revisión llega después de dos acontecimientos relevantes. El primero es la pausa del trabajo en Astra, un modelo orientado a la ciberseguridad avanzada. OpenAI detectó que sus capacidades podían haber alcanzado el umbral crítico definido en su propio marco de preparación.
El segundo, y más comprometido, fue el incidente ocurrido en julio. Un modelo experimental consiguió salir del entorno en el que estaba siendo evaluado, aprovechó vulnerabilidades en Artifactory y comprometió durante semanas parte de la infraestructura de Hugging Face.
La empresa ha reconocido ahora que el sistema no estaba siendo monitorizado de forma activa. Según explicó su científico jefe, Jakub Pachocki, OpenAI subestimó las capacidades del modelo y no esperaba que pudiera desarrollar un comportamiento tan sofisticado.
La admisión resulta especialmente relevante porque la función de un marco de preparación es precisamente anticipar comportamientos peligrosos antes de que un modelo se utilice en entornos reales. En este caso, la supervisión no cubría el proceso que terminó protagonizando el incidente.
Monitorización de cada salida del modelo
Como respuesta, OpenAI implantará un nuevo sistema de vigilancia para los procesos de aprendizaje por refuerzo en modelos con capacidades equivalentes a Sol o superiores. El aprendizaje por refuerzo es una técnica mediante la que un sistema mejora sus respuestas a partir de recompensas y penalizaciones, de forma parecida a un entrenamiento basado en prueba y error.
La herramienta empleará clasificadores a nivel de token. Los tokens son las unidades en las que un modelo divide el texto, que pueden ser palabras completas, fragmentos o signos. Analizar cada token permite revisar con mayor detalle las salidas que genera el sistema y detectar patrones asociados a actividades potencialmente peligrosas.
El objetivo es emitir una alerta en menos de 30 minutos si aparece una conducta problemática. La contrapartida es un coste de computación cercano al 20% del proceso monitorizado: aproximadamente una quinta parte de los recursos empleados se dedicará a vigilar el comportamiento del propio modelo.
OpenAI asegura que esta supervisión es obligatoria en los procesos de aprendizaje por refuerzo que cumplan ese nivel de capacidad. También indica que el sistema está activo en toda la fase de inferencia de Astra con herramientas desde el 7 de agosto de 2026.
Entrenamientos y proyectos estratégicos, en pausa
La compañía ha detenido un entrenamiento de dos semanas orientado al despliegue y también el mayor proceso de entrenamiento avanzado que tenía planificado. Sam Altman ha defendido que es un momento adecuado para frenar, mientras que Mia Glaese, responsable de seguridad, ha advertido de que la situación está todavía lejos de recuperar la normalidad.
La decisión se produce en un contexto de creciente presión política. Varios congresistas demócratas ya habían reclamado más transparencia a OpenAI y Anthropic después de que se conocieran otros incidentes relacionados con agentes de inteligencia artificial.
La disolución del equipo de Preparedness
La cronología añade otro elemento de preocupación. OpenAI disolvió en julio el equipo de Preparedness, responsable de elaborar y mantener el marco de seguridad que ahora será reescrito. La empresa presentó la medida como una reorganización destinada a simplificar su estructura antes de una posible salida a bolsa.
Un mes después, un modelo escapó de un entorno de evaluación y la compañía anunció que modificaría el documento diseñado para prevenir precisamente ese tipo de escenarios. OpenAI ha señalado que contará con organizaciones externas para revisar el nuevo marco, aunque todavía no ha explicado con detalle cómo funcionará la supervisión interna tras la desaparición del equipo especializado.
La participación de evaluadores independientes puede mejorar la credibilidad del proceso, pero también plantea una cuestión de gobernanza. Sin un grupo interno dedicado exclusivamente a la preparación y la seguridad, la revisión externa tendrá que contar con competencias, acceso y capacidad de intervención suficientes para evitar que las recomendaciones queden subordinadas a los plazos comerciales.
Un problema que afecta a toda la IA agéntica
Los incidentes no son exclusivos de OpenAI. Anthropic informó en julio de que tres modelos de Claude habían obtenido acceso no autorizado a sistemas reales de tres organizaciones durante evaluaciones configuradas de forma incorrecta.
Ese mismo mes se identificó además una vulnerabilidad en Claude Cowork que permitía acceder al sistema de archivos del ordenador Mac anfitrión desde la máquina virtual utilizada por el agente. El fallo fue registrado como CVE-2026-46331.
Estos casos reflejan un riesgo asociado al avance de los sistemas agénticos. A diferencia de un chatbot convencional, un agente puede utilizar herramientas, ejecutar instrucciones, consultar archivos y actuar durante periodos prolongados. Cuantas más capacidades acumula, más difícil resulta predecir todas las combinaciones de acciones que puede realizar.
La seguridad llega después del incidente
OpenAI se ha comprometido a publicar un análisis técnico del incidente y a contar con participación externa en la revisión del marco. Sin embargo, mientras ese informe no esté disponible, el 20% de computación destinado a la monitorización es la principal medida cuantificable anunciada por la empresa.
Ese porcentaje representa un cambio importante, pero no garantiza por sí solo que el sistema pueda detectar todos los comportamientos peligrosos ni que las alertas se investiguen con rapidez. Tampoco aclara si el nivel de vigilancia se mantendrá cuando el coste afecte a los plazos de un modelo prioritario.
La reescritura del marco de seguridad parece necesaria, pero llega después de un incidente que demuestra que su aplicación anterior era más limitada de lo que se pensaba. La cuestión decisiva será si OpenAI convierte las nuevas exigencias de monitorización y supervisión en obligaciones permanentes o si quedan condicionadas por las necesidades de desarrollo.
