GitHub pide supervisar de cerca a los agentes de IA: la autonomía no sustituye al criterio del ingeniero
Los agentes de inteligencia artificial están ganando espacio en los equipos de desarrollo, pero su capacidad para actuar de forma autónoma no elimina la necesidad de supervisión humana. Margarita Sanz del Río, directiva de GitHub, considera que estas herramientas deben utilizarse con instrucciones claras, revisiones frecuentes y profesionales preparados para evaluar sus resultados.
El debate ya no se centra únicamente en si la IA puede escribir código. La cuestión principal es hasta dónde se le puede permitir actuar sin intervención directa y qué controles necesita una empresa para evitar errores en sus proyectos.
La autonomía depende del contexto y de la preparación
Los agentes de IA pueden interpretar una tarea, dividirla en fases, consultar información, proponer cambios y ejecutar acciones dentro de un entorno de desarrollo. Esa capacidad los diferencia de los asistentes tradicionales, que normalmente se limitan a responder preguntas o generar fragmentos de código.
Sin embargo, que un agente pueda completar una cadena de tareas no significa que deba hacerlo sin límites. Según Sanz del Río, el nivel de autonomía debe estar relacionado con la preparación del ingeniero que lo utiliza y con su capacidad para revisar lo que la herramienta produce.
Un profesional con experiencia puede detectar con mayor rapidez una dependencia innecesaria, una vulnerabilidad o una decisión técnica que no encaja con la arquitectura del proyecto. La IA puede acelerar el trabajo, pero no reemplaza ese conocimiento del contexto.
Revisar los resultados debe formar parte del proceso
La revisión no debería producirse únicamente al final de una tarea. Los equipos tienen que comprobar de forma periódica qué está haciendo el agente, qué decisiones ha tomado y si sus resultados cumplen los requisitos iniciales.
Esta supervisión resulta especialmente importante cuando la herramienta puede modificar varios archivos, ejecutar pruebas, interactuar con repositorios o proponer cambios que afectan a partes sensibles de una aplicación.
La recomendación pasa por establecer puntos de control. Antes de aceptar una modificación, el equipo puede revisar el código generado, verificar las pruebas, comprobar los permisos utilizados y confirmar que el agente no se ha alejado del objetivo definido.
- Definir con precisión la tarea y sus límites.
- Conceder solo los permisos necesarios para ejecutarla.
- Revisar los cambios antes de incorporarlos al proyecto.
- Validar el resultado con pruebas automatizadas y comprobaciones humanas.
- Registrar las decisiones para poder detectar errores y mejorar el proceso.
Las instrucciones necesitan actualizarse
Otro de los aspectos destacados es la importancia de mantener actualizadas las instrucciones que reciben los agentes. Un conjunto de indicaciones que funciona en una fase inicial puede quedarse corto cuando cambia la arquitectura, se incorporan nuevas normas de seguridad o evolucionan las necesidades del producto.
Las instrucciones deben recoger el contexto del proyecto, los estándares de programación, las restricciones legales y los criterios que determinan si una tarea está correctamente resuelta. También conviene especificar qué acciones requieren aprobación y cuáles puede realizar el agente por su cuenta.
Esta documentación no es un elemento estático. Los equipos deben revisarla a medida que acumulan experiencia con la herramienta. Los errores recurrentes, las respuestas imprecisas y los cambios en el código base pueden servir para ajustar las indicaciones y reducir fallos.
Más velocidad, pero también nuevos riesgos
El atractivo de los agentes de IA está en su potencial para reducir tareas repetitivas y acelerar el desarrollo. Pueden ayudar a preparar documentación, localizar errores, generar pruebas o proponer soluciones para problemas habituales.
Pero una mayor velocidad también puede amplificar los errores. Si un agente recibe una instrucción ambigua, puede producir muchos cambios incorrectos en poco tiempo. Por eso, la productividad no debe medirse solo por el número de líneas generadas o por la rapidez con la que se cierra una tarea.
La calidad del código, la seguridad, la trazabilidad y la capacidad de mantenimiento siguen siendo criterios esenciales. Un resultado aparentemente válido puede ocultar problemas que no aparecen hasta que la aplicación llega a producción.
El ingeniero mantiene la responsabilidad final
La incorporación de agentes de IA modifica la forma de trabajar, pero no elimina la responsabilidad del equipo técnico. Los ingenieros deben comprender qué se ha solicitado, evaluar las respuestas y decidir si los cambios son adecuados para el proyecto.
En este escenario, el perfil profesional evoluciona. Además de programar, será necesario saber redactar instrucciones, establecer límites, interpretar resultados y diseñar procesos de revisión eficaces.
La autonomía de los agentes puede aportar valor cuando está acompañada de controles adecuados. La clave no está en dejar que actúen sin vigilancia, sino en encontrar un equilibrio entre automatización y criterio humano. En el desarrollo de software, comprobar cada cierto tiempo lo que hacen seguirá siendo una práctica imprescindible.
