Los agentes de IA aprenden a mejorar su propio software al predecir cuándo pueden equivocarse
Un nuevo método pretende hacer más seguros y eficaces a los agentes de inteligencia artificial capaces de modificar su propio código y sus instrucciones. La propuesta incorpora un sistema que intenta anticipar si un cambio puede empeorar el rendimiento antes de ponerlo a prueba y, cuando detecta un riesgo, activa una revisión adicional.
Las primeras pruebas apuntan a una mejora relevante en tareas de programación. El sistema pasó de una tasa de éxito cercana al 22% a casi el 30% frente a una configuración anterior, aunque lo hizo con un consumo de recursos muy superior. Los resultados proceden de experimentos controlados y todavía no demuestran que estos agentes puedan modificar software real sin supervisión humana.
Modificar un agente también puede romperlo
Los agentes de IA son sistemas capaces de recibir objetivos, utilizar herramientas y tomar decisiones sucesivas para completar una tarea. En el ámbito del desarrollo de software, pueden escribir o corregir código, ejecutar pruebas y cambiar las instrucciones que orientan su comportamiento.
El problema es similar al que afronta cualquier equipo de programación: una modificación diseñada para mejorar una función puede alterar otra de forma inesperada. Una instrucción más precisa puede limitar la capacidad de respuesta del sistema, mientras que un cambio aparentemente menor en el código puede provocar errores de sintaxis o impedir que una tarea llegue a completarse.
Proponer una mejora y comprobar que funciona son, por tanto, procesos distintos. Los investigadores han centrado su trabajo en ese intervalo: el momento en que el agente debe decidir si merece la pena probar un cambio o si conviene revisarlo antes.
Un predictor para detectar fallos antes de la prueba
La investigación incorpora un componente denominado Improvement Dynamics Model, o IDM. Este modelo analiza la modificación propuesta y consulta la experiencia acumulada en versiones anteriores para estimar sus posibles consecuencias.
Su función no consiste en garantizar que el cambio vaya a funcionar, sino en identificar señales de deterioro. Puede distinguir entre una solución que probablemente produciría una respuesta incorrecta y otra que podría dejar la tarea incompleta al provocar un fallo durante la ejecución.
Cuando el predictor calcula que existe un riesgo elevado, el sistema permite que el agente revise de nuevo el código o las instrucciones antes de realizar la evaluación definitiva. De este modo, se añade una oportunidad de corrección sin necesidad de volver a entrenar el modelo de inteligencia artificial desde cero.
En una de las pruebas, unas instrucciones quedaron fuera de las comillas necesarias y generaron un error de sintaxis. El agente había identificado el problema, pero agotó sus llamadas a herramientas antes de repararlo. El predictor anticipó que las tareas no llegarían a completarse y activó una revisión adicional. Después de corregir el código, la versión resultante resolvió 11 tareas.
Dos agentes que trabajan sobre el mismo sistema
El enfoque parte de HyperAgents, una arquitectura en la que dos agentes colaboran. Uno se encarga de resolver las tareas, mientras que el otro actúa como agente de mejora: analiza el funcionamiento del sistema y propone cambios en el software y en las instrucciones que utilizan ambos.
El segundo agente también puede modificar partes de su propio funcionamiento. Además, conserva información sobre versiones anteriores para orientar sus siguientes decisiones. Esta idea forma parte de una línea de investigación que explora sistemas capaces de mejorar su código de manera iterativa, como ya planteaban otros proyectos de autooptimización de agentes.
La capacidad de mejora no se limita al predictor. Cada cinco rondas, el agente que propone cambios puede sugerir ajustes en el propio modelo de predicción. Esas modificaciones solo se incorporan si superan una comprobación posterior, un mecanismo pensado para evitar que la optimización del sistema termine degradando sus resultados.
El rendimiento aumenta, pero también el consumo
Para comprobar el método, los investigadores utilizaron 166 tareas de programación que no se habían empleado durante el proceso de mejora ni para elegir las versiones. Una tarea solo se consideraba resuelta cuando la modificación propuesta superaba las pruebas correspondientes.
- El agente inicial alcanzó una tasa de éxito aproximada del 16%.
- HyperAgents sin el predictor obtuvo una mediana cercana al 22%.
- La configuración con predicción llegó a casi el 30%.
La mediana representa el valor central de un conjunto de resultados y reduce el peso de ejecuciones excepcionalmente buenas o malas. En este caso, las cifras se calcularon a partir de cinco ejecuciones por configuración, por lo que deben interpretarse dentro de las condiciones concretas del experimento.
La mejora, sin embargo, tiene un coste. El sistema con predicciones necesitó una media estimada de 170 millones de tokens para completar 40 rondas, frente a los aproximadamente 49 millones de HyperAgents. Los tokens son las unidades de texto que los modelos procesan y generan, y su consumo influye directamente en el coste de uso.
Incluso con un presupuesto de tokens igualado, el método predictor mantuvo una ventaja del 10,9% en una medida de rendimiento acumulado. Aun así, la evaluación no ofrece una comparación completa del coste computacional total, que también depende del tiempo de ejecución, el hardware y el número de herramientas utilizadas.
Una técnica que también se prueba fuera de la programación
Los investigadores analizaron si el predictor podía aprovechar experiencia adquirida en otros ámbitos. Tras perfeccionarlo con tareas relacionadas con la aceptación de artículos científicos y el diseño de recompensas para robots simulados, lo utilizaron para orientar la mejora de agentes destinados a calificar soluciones matemáticas.
En 100 ejercicios reservados para la evaluación final, los agentes coincidieron exactamente con la valoración de expertos en una mediana del 55% de los casos. El predictor inicial alcanzó el 51%, mientras que HyperAgents se quedó en el 47%.
Los resultados sugieren que anticipar el comportamiento de una modificación podría ser útil en distintos tipos de agentes. No obstante, el estudio sigue siendo una prepublicación y sus conclusiones aún deben comprobarse en entornos independientes y con proyectos de mayor complejidad.
La supervisión humana sigue siendo necesaria
Un agente que mejora sus herramientas no equivale todavía a un sistema capaz de mantener por sí solo un producto de software. Las pruebas se realizaron con tareas delimitadas, conjuntos de evaluación concretos y mecanismos de comprobación definidos de antemano.
En aplicaciones reales habría que controlar cambios incompatibles, vulnerabilidades de seguridad, pérdida de funcionalidades y aumentos inesperados del coste. Por eso, la predicción de errores puede convertirse en una capa adicional de seguridad, pero no sustituye las revisiones de código, las pruebas automatizadas ni la supervisión de profesionales.
