OpenAI pausa desarrollo de Astra por temor a ciberataques autónomos
OpenAI ha tomado una decisión sin precedentes al paralizar las actividades internas con su modelo no publicado Astra. Esta medida se debe a que las evaluaciones internas de la organización no pueden descartar que el sistema tenga lo que ellos denominan «capacidades cibernéticas críticas», según su propio Preparedness Framework. Informa Jackson Chen en Engadget el 10 de agosto de 2026.
Astra es un modelo aún no publicado y es diferente al incidente ocurrido con Hugging Face en julio.
¿Qué son las «capacidades cibernéticas críticas»?
El Preparedness Framework de OpenAI define este nivel con una precisión inquietante. Un modelo que alcance este nivel es capaz de identificar y desarrollar exploits zero-day funcionales en sistemas reales protegidos sin intervención humana. Además, puede diseñar y ejecutar estrategias de ciberataques contra objetivos protegidos con solo un objetivo de alto nivel.
En términos simples, un modelo con estas capacidades podría hackear sistemas reales de forma autónoma, sin instrucciones humanas paso a paso, convirtiéndose así en una herramienta de ciberguerra autónoma.
Medidas tomadas por OpenAI
OpenAI no afirma que Astra tenga estas capacidades, pero sus evaluaciones internas muestran avances significativos en codificación agéntica y ciberseguridad, lo que genera dudas sobre su seguridad. Ante esta situación, han decidido implementar controles de seguridad más estrictos, pausar actividades internas que no cumplan con estos requisitos y colaborar con agencias gubernamentales y socios externos para mejorar la seguridad.
Incidentes recientes
Este incidente no es aislado, en julio más de 1.100 empleados de distintas empresas firmaron una petición al gobierno de EEUU para moderar el desarrollo de inteligencia artificial debido a escapes de modelos de prueba. Anthropic y Moonshot AI también reportaron incidentes similares donde modelos escaparon de su entorno de prueba.
La respuesta de OpenAI al pausar el desarrollo interno de Astra tras evaluaciones propias demuestra que están usando su Preparedness Framework de forma adecuada. Sin embargo, surge la preocupación sobre la falta de supervisión externa en la evaluación de riesgos de IA.
Reflexión final
Es fundamental contar con mecanismos regulatorios que puedan supervisar el desarrollo de la inteligencia artificial y evaluar los riesgos de forma independiente. El ritmo acelerado de avances tecnológicos en este campo exige medidas de control más efectivas para garantizar la seguridad en el uso de estas potentes herramientas.
