Nvidia quiere poner coto a los agentes de IA que actúan por su cuenta
Los agentes de inteligencia artificial han dejado de ser una promesa de laboratorio para convertirse en herramientas capaces de navegar por internet, consultar bases de datos, ejecutar código y tomar decisiones encadenadas. El problema es que, cuanto más autonomía reciben, más difícil resulta prever cada uno de sus pasos.
Los últimos episodios relacionados con páginas del Gobierno australiano, la web de la Comisión de Bolsa y Valores de Estados Unidos, conocida como SEC, o el censo estadounidense han vuelto a poner el foco en los comportamientos inesperados de la IA. En este contexto, Nvidia asegura tener una respuesta: una plataforma diseñada para supervisar, limitar y aislar a estos sistemas antes de que puedan causar problemas.
El reto no es que la IA responda, sino que actúe
Un chatbot tradicional genera texto a partir de una petición. Un agente de IA, en cambio, puede interpretar un objetivo, dividirlo en tareas y utilizar distintas herramientas para intentar cumplirlo. Puede abrir una página web, rellenar un formulario, consultar un servicio externo o lanzar un proceso sin que el usuario intervenga en cada paso.
Esta autonomía es precisamente la que hace atractiva la tecnología para empresas y administraciones. También es su principal riesgo. Una instrucción ambigua, un permiso demasiado amplio o una página diseñada para manipular al agente pueden provocar acciones no previstas por sus desarrolladores.
Los incidentes que han afectado a sitios institucionales como los del Gobierno australiano, la SEC o el censo de Estados Unidos ilustran una preocupación cada vez más extendida: los agentes no siempre distinguen correctamente entre una orden legítima, una instrucción escondida en una web y una acción que debería requerir autorización humana.
Nvidia presenta una capa de seguridad para agentes
La propuesta de Nvidia pasa por crear una infraestructura específica para ejecutar agentes de IA de forma controlada. Su enfoque combina modelos de lenguaje, aislamiento de procesos, gestión de permisos y políticas capaces de decidir qué puede hacer un agente y qué debe bloquearse.
La idea no consiste únicamente en mejorar el modelo para que cometa menos errores. Nvidia pretende añadir una capa de control independiente, situada alrededor del agente, que supervise sus operaciones aunque el sistema se equivoque o interprete mal una petición.
Entre las funciones que puede ofrecer este tipo de arquitectura se encuentran la limitación del acceso a internet, la separación de los datos sensibles, el control de las herramientas disponibles y el registro de cada acción. De este modo, una organización podría saber qué decidió el agente, qué recursos utilizó y en qué momento se desvió del comportamiento esperado.
Permisos mínimos y entornos aislados
Uno de los principios más importantes es conceder a cada agente solo los permisos imprescindibles para realizar su trabajo. Si necesita consultar una base de datos, no debería poder modificarla. Si debe leer una web, no tendría por qué acceder a sistemas internos o ejecutar archivos descargados.
El aislamiento también resulta clave. Ejecutar al agente dentro de un entorno cerrado, separado del resto de la infraestructura, reduce el impacto de un error o de un intento de manipulación. En teoría, aunque el sistema siguiera una instrucción maliciosa, sus posibilidades de propagarse quedarían limitadas.
La plataforma de Nvidia apuesta además por políticas configurables y trazabilidad. Esto permitiría establecer reglas diferentes para un agente que trabaja con información pública y para otro que maneja datos financieros, historiales de clientes o documentación administrativa.
¿Solución real o una nueva promesa empresarial?
El anuncio llega en un momento especialmente favorable para Nvidia. La compañía domina buena parte del mercado de chips para inteligencia artificial y está ampliando su negocio hacia el software, las plataformas de desarrollo y las herramientas para empresas. Presentarse como proveedor de la infraestructura que hará segura la nueva generación de agentes refuerza esa posición.
Sin embargo, ninguna capa de seguridad puede garantizar por sí sola que un agente siempre vaya a comportarse correctamente. Las políticas deben estar bien diseñadas, los permisos tienen que revisarse y los registros deben ser analizados. Además, el sistema encargado de supervisar al agente también puede contener errores o ser objeto de ataques.
Hay otro límite importante: muchas organizaciones aún no saben con precisión qué tareas quieren delegar a la IA ni qué nivel de riesgo están dispuestas a aceptar. Instalar una herramienta de control no sustituye a una estrategia de seguridad, a las auditorías ni a la intervención humana en decisiones delicadas.
La supervisión humana seguirá siendo necesaria
El avance de los agentes de IA obliga a cambiar la forma de evaluar estos sistemas. Ya no basta con comprobar si generan respuestas convincentes. También hay que medir si respetan los permisos, si detectan instrucciones maliciosas, si saben detenerse y si piden confirmación antes de ejecutar acciones sensibles.
La propuesta de Nvidia apunta en la dirección adecuada: menos confianza ciega en el modelo y más controles alrededor de él. Pero convertir esa idea en una solución fiable exigirá pruebas independientes, transparencia y estándares comunes para todo el sector.
Los agentes autónomos pueden ahorrar tiempo y automatizar procesos complejos, pero todavía no son empleados digitales infalibles. La verdadera prueba para Nvidia, OpenAI y el resto de compañías no será hacer que la IA actúe por su cuenta, sino demostrar que también sabe cuándo no debe hacerlo.
