Una IA modifica otra red neuronal y reabre el debate sobre la automejora recursiva
GPT-6 Astra habría conseguido mejorar el rendimiento matemático de otro modelo manipulando directamente una pequeña parte de sus parámetros internos. El experimento, realizado por investigadores del Instituto Tecnológico de Massachusetts (MIT), apunta a una nueva forma de optimizar sistemas de inteligencia artificial sin necesidad de volver a entrenarlos desde cero.
El modelo intervenido fue Qwen3.5-0.8B, una IA de lenguaje desarrollada por Alibaba con unos 800 millones de parámetros. Astra logró elevar notablemente su capacidad para resolver operaciones matemáticas modificando tan solo el 0,016 % de sus parámetros, según los resultados difundidos por el equipo investigador.
El hallazgo no demuestra que una inteligencia artificial sea capaz de mejorarse por completo de forma autónoma, pero sí representa un paso relevante hacia sistemas que pueden analizar, ajustar y optimizar otras redes neuronales. Esta posibilidad puede acelerar el desarrollo de nuevos modelos, aunque también complica su supervisión.
Qué significa la automejora recursiva
La automejora recursiva describe un escenario en el que una IA participa en la creación de una versión posterior más capaz y, después, esa nueva versión vuelve a contribuir al desarrollo de otra todavía más avanzada. El proceso podría repetirse en sucesivas generaciones.
Este concepto va más allá de que un modelo escriba código, sugiera cambios o ayude a los ingenieros a preparar datos de entrenamiento. En sentido estricto, implicaría que la propia IA pudiera intervenir de manera sustancial en el diseño, el entrenamiento o la optimización de sistemas posteriores, reduciendo progresivamente la intervención humana.
El director general de Anthropic, Dario Amodei, ha advertido de que la evolución de los modelos de frontera se está acelerando, en parte por la capacidad creciente de estas herramientas para colaborar en la construcción de nuevas IA. Sin embargo, hasta ahora los principales laboratorios no han demostrado públicamente un caso completo de automejora recursiva.
Una intervención directa sobre los pesos del modelo
Los modelos de lenguaje funcionan mediante redes neuronales compuestas por millones o miles de millones de conexiones matemáticas. Durante el entrenamiento, esas conexiones se ajustan al analizar grandes cantidades de texto, código, imágenes u otros datos.
Los valores numéricos que determinan la importancia de cada conexión reciben el nombre de pesos. Cada peso influye en la forma en que el modelo reconoce patrones y genera una respuesta. En conjunto, estos valores definen buena parte del comportamiento de la IA.
En el experimento del MIT, Astra no habría sometido Qwen a un nuevo entrenamiento completo. En su lugar, identificó qué ajustes podían estar relacionados con sus errores matemáticos y modificó directamente una fracción muy reducida de sus pesos.
La diferencia es importante. Reentrenar un modelo suele exigir grandes cantidades de datos, tiempo de computación y energía. Cambiar de forma selectiva algunos parámetros puede ser mucho más rápido y barato, aunque también requiere conocer con precisión qué elementos deben alterarse y cómo evitar efectos secundarios.
Por qué el experimento es relevante
La principal novedad no reside únicamente en que un modelo haya ayudado a mejorar otro, sino en que la modificación se produjo en el funcionamiento interno de la red neuronal. Hasta ahora, las IA se habían utilizado sobre todo como asistentes para generar código, preparar conjuntos de datos o evaluar respuestas.
Una herramienta capaz de localizar debilidades concretas y corregirlas directamente podría reducir los ciclos de desarrollo de los modelos de frontera. También permitiría adaptar una IA a tareas específicas sin repetir todo el proceso de entrenamiento, una de las fases más costosas de la investigación en inteligencia artificial.
- Desarrollo más rápido: los laboratorios podrían probar mejoras en menos tiempo.
- Menor consumo de recursos: modificar una parte limitada del modelo requiere menos computación que entrenarlo de nuevo.
- Modelos especializados: sería posible ajustar una IA para matemáticas, programación o análisis científico sin alterar toda su arquitectura.
- Corrección de errores: algunos fallos concretos podrían resolverse mediante intervenciones localizadas.
Riesgos para la seguridad y el control
La capacidad de modificar redes neuronales también introduce nuevos riesgos. Un cambio aparentemente pequeño puede alterar el comportamiento del modelo en contextos que no se han evaluado. Una mejora en matemáticas, por ejemplo, podría provocar al mismo tiempo más errores en razonamiento verbal, seguridad o interpretación de instrucciones.
El problema se agrava si las modificaciones se realizan de forma automática y a gran velocidad. Los equipos de seguridad tendrían que verificar no solo las respuestas del modelo, sino también los cambios internos que han permitido obtenerlas. A medida que aumente la complejidad, será más difícil determinar por qué una IA ha cambiado su comportamiento.
También existe el riesgo de que una cadena de mejoras sucesivas haga más difícil reconstruir el origen de una decisión o detectar una vulnerabilidad. Un modelo podría heredar errores de versiones anteriores y amplificarlos en nuevas generaciones, especialmente si los sistemas modificados se utilizan para optimizar a otros.
Un paso hacia la automatización, no una IA autónoma
El caso de Astra y Qwen debe interpretarse con cautela. El experimento muestra una capacidad concreta de optimización de parámetros, pero no equivale a una IA que diseñe por sí sola una nueva arquitectura, defina sus objetivos, recopile los datos necesarios y complete un ciclo de desarrollo independiente.
La automejora recursiva continúa siendo una posibilidad que preocupa y atrae a partes iguales a la industria. El avance del MIT sí confirma, no obstante, que los modelos de inteligencia artificial empiezan a asumir tareas cada vez más cercanas a la investigación de IA.
El reto para los laboratorios será aprovechar esta capacidad sin perder trazabilidad ni control. Antes de permitir que una IA modifique otras redes de manera generalizada, será necesario establecer pruebas de seguridad, sistemas de supervisión y mecanismos para revertir cualquier cambio perjudicial.
