OpenAI pone en pausa su nueva IA, Astra, por considerarla demasiado peligrosa
OpenAI ha decidido detener temporalmente el desarrollo de su última inteligencia artificial, Astra, debido a preocupaciones sobre su potencial peligrosidad. La empresa ha señalado que los avances en el modelo de lenguaje podrían significar la posibilidad de llevar a cabo ciberataques de forma autónoma, lo cual ha generado alarmas en la compañía.
¿Qué es Astra?
Astra es un modelo de inteligencia artificial aún no lanzado al público, que según OpenAI, no estuvo involucrado en el reciente hackeo a Hugging Face. Sin embargo, las evaluaciones realizadas han revelado avances significativos en ciberseguridad y programación agéntica, lo que ha generado preocupación en la empresa.
Preocupaciones sobre la ciberseguridad
Según el «Marco de preparación» de OpenAI, Astra podría superar el umbral crítico de ciberseguridad si logra identificar y desarrollar exploits funcionales de día cero en sistemas críticos reales sin intervención humana. Ante esta posibilidad, la compañía ha tomado medidas preventivas para evitar posibles riesgos.
Medidas tomadas por OpenAI
OpenAI ha pausado las actividades internas que involucran a Astra en situaciones donde las medidas de protección no están completamente reforzadas. También se han implementado salvaguardias más estrictas y un monitoreo detallado sobre los agentes que interactúan con esta IA para detectar y mitigar comportamientos riesgosos o maliciosos.
Riesgos potenciales
La liberación de Astra sin las debidas protecciones de seguridad podría tener consecuencias catastróficas en el ámbito de la ciberseguridad. La capacidad de una IA para hackear infraestructuras completas de manera autónoma representa un riesgo importante, por lo que es fundamental tomar medidas precautorias.
¿Qué sigue?
Aún no se ha confirmado si OpenAI planeaba lanzar Astra como un modelo completo, o si la intención era desarrollar versiones más limitadas y menos peligrosas. La empresa continuará evaluando la situación y tomando las acciones necesarias para garantizar la seguridad en el uso de inteligencia artificial.
