proceso para establecer estándares globales de confianza para los agentes de IA. La cumbre AI for Good celebrada en Ginebra fue el escenario donde la UIT hizo pública esta iniciativa. El objetivo fundamental es garantizar que los agentes de IA sean identificables, estén bajo control humano y sean responsables de sus acciones.
La primera reunión del grupo de expertos se llevará a cabo en París en noviembre de 2026, seguida de una segunda reunión en Ginebra en enero de 2027. Se espera que este grupo genere recomendaciones técnicas, aunque no serán de carácter obligatorio.
La problemática que motiva esta iniciativa radica en la autonomía de los agentes de IA. Pueden tomar decisiones no autorizadas o suplantar identidades con gran eficacia, lo que supone un riesgo tanto para las organizaciones que los utilizan como para los usuarios. La falta de reglas compartidas para identificar y limitar a estos agentes se ha convertido en un riesgo sistémico, según lo describe la UIT.
Dentro del panorama actual, China ha establecido normas nacionales para la identificación de agentes, mientras que en otras partes del mundo la regulación es fragmentada. La UE cuenta con la EU AI Act, pero carece de reglas específicas para los agentes, mientras que en EE.UU. existen directrices del NIST y marcos sectoriales.
El grupo de expertos de la UIT reunirá a especialistas técnicos, de políticas y legales para abordar la identificación de los agentes de IA, garantizar que operen dentro de límites predefinidos y asegurar la rendición de cuentas ante las personas en cuyo nombre actúan. La metodología de consenso multi-stakeholder de la UIT busca lograr acuerdos voluntarios entre la industria y los gobiernos, en lugar de imponer mandatos obligatorios.
En un contexto donde los incidentes con agentes de IA son cada vez más notorios, como el caso del agente que gastó 31.000 dólares en una noche sin autorización, la necesidad de establecer estándares de confianza se hace evidente. La UIT, con su experiencia en la estandarización de tecnologías, busca brindar una guía que promueva la identidad de los agentes y la confianza en los procesos digitales.
En resumen, la iniciativa de la UIT representa un paso importante en el camino hacia la regulación y estandarización de los agentes de IA a nivel global. Si bien existe el riesgo de que los grandes proveedores establezcan sus propios estándares antes de que las recomendaciones formales estén listas, el enfoque de identificación propuesto por la UIT resulta relevante y necesario en el contexto actual de expansión de la inteligencia artificial.
