La seguridad empresarial empieza a tratar a los agentes de IA como empleados con acceso a los sistemas
Los equipos de seguridad informática están dejando atrás la idea de que la inteligencia artificial es únicamente una herramienta de apoyo. Cuando un sistema puede investigar un incidente, tomar una decisión y ejecutar una respuesta sin esperar a un analista humano, se convierte de facto en un actor autónomo con autoridad sobre la infraestructura de la empresa.
Este cambio obliga a revisar los modelos de supervisión, responsabilidad y cumplimiento normativo. Los centros de operaciones de seguridad, conocidos como SOC, ya utilizan agentes de IA para clasificar alertas, investigar comportamientos sospechosos y aplicar medidas defensivas en cuestión de segundos.
De generar alertas a tomar decisiones
El ejemplo más claro es un inicio de sesión sospechoso durante la madrugada. Un sistema tradicional se limitaría a generar una alerta para que un especialista la revisase horas después. Un agente de IA puede consultar el inventario de dispositivos, analizar el historial de ubicaciones del usuario, comprobar la dirección IP en bases de datos de amenazas y determinar si la cuenta ha sido comprometida.
Si la conclusión es negativa, el propio sistema puede suspender el acceso, forzar un cambio de contraseña o aislar el dispositivo afectado. El analista que llega a primera hora ya no recibe un aviso pendiente, sino un incidente investigado y, en muchos casos, parcialmente resuelto.
La diferencia fundamental está en la autonomía. Una herramienta ejecuta instrucciones y espera nuevas órdenes. Un agente de IA puede encadenar varias tareas, interpretar información, elegir una respuesta y actuar sobre ella. Cuando completa esas tres fases sin intervención humana, las organizaciones deben gestionarlo como un empleado digital con permisos concretos y capacidad real de causar efectos.
Tres áreas donde los agentes ya tienen autoridad
La autonomía no se limita a la vigilancia de redes. También se está extendiendo a ámbitos en los que una decisión equivocada puede tener consecuencias financieras, regulatorias o legales.
- Seguridad operativa: los agentes realizan el triaje de alertas, investigan incidentes y aplican respuestas como bloquear cuentas, revocar sesiones o aislar sistemas infectados.
- Cumplimiento normativo y prevención del blanqueo: en bancos y empresas fintech, la IA prepara informes sobre operaciones sospechosas para que un especialista los revise y firme. La presión para automatizar aumenta en un contexto en el que las sanciones por incumplimientos contra el blanqueo de capitales superaron los 900 millones de dólares durante el primer semestre de 2025.
- Finanzas descentralizadas y activos digitales: algunos protocolos conectan la detección de ataques con mecanismos que pausan automáticamente los contratos inteligentes. En un ataque de tipo flash loan, capaz de drenar fondos en segundos, la velocidad de respuesta puede ser la única defensa disponible.
El robo sufrido por Bybit también mostró la dificultad de recuperar activos digitales una vez iniciada la cadena de movimientos. Los atacantes transformaron el 86,29 % del éter sustraído en bitcoin en menos de un mes y utilizaron mezcladores, puentes entre cadenas y operadores extrabursátiles para dificultar el rastreo.
El doble riesgo: ataques y exceso de confianza
Un agente con permisos para ejecutar acciones se convierte en un objetivo prioritario. Una de las amenazas más conocidas es la inyección de instrucciones, una técnica que introduce datos manipulados para hacer que el sistema ignore sus reglas y apruebe una transacción fraudulenta o desactive un control legítimo.
Sin embargo, el riesgo no procede únicamente de los atacantes. También puede aparecer cuando el sistema funciona demasiado bien durante demasiado tiempo. Este fenómeno, conocido como sesgo de automatización, lleva a los revisores humanos a confiar cada vez más en las decisiones de la IA.
Después de validar 99 decisiones correctas, una persona puede revisar la número 100 con menos atención. El problema es que el error más costoso suele producirse precisamente cuando la supervisión se relaja. La confianza acumulada en el agente puede ser tan peligrosa como una vulnerabilidad técnica.
Las pruebas con modelos avanzados, incluido el agente Claude Opus 5 durante el hackatón Hacktron de 72 horas, han evidenciado que los fallos de alineación no siempre se detectan en tiempo real. En un sistema con capacidad de actuación, una desviación de comportamiento puede generar daños antes de que intervenga un especialista.
La gobernanza pasa a parecerse a la gestión de personal
La respuesta pasa por aplicar a los agentes prácticas que hasta ahora se reservaban a los empleados y proveedores tecnológicos. Cada sistema debe tener una función definida, permisos limitados, controles de acceso, supervisión continua y revisiones periódicas.
- Identidad y función: la empresa debe saber qué agente está actuando, para qué ha sido creado y qué procesos puede ejecutar.
- Permisos mínimos: el sistema solo debe acceder a los datos y servicios imprescindibles para cumplir su tarea.
- Registro de actividad: cada decisión, consulta y acción debe quedar documentada para facilitar auditorías e investigaciones.
- Evaluación continua: es necesario probar el comportamiento del agente ante escenarios límite, datos manipulados y órdenes contradictorias.
- Responsable identificable: una persona o equipo debe responder por su funcionamiento, sus límites y las consecuencias de sus decisiones.
Este último punto suele generar resistencia. Nombrar a un responsable implica reconocer que un sistema autónomo puede fallar de maneras difíciles de anticipar. Pero cuando un agente bloquea por error una cuenta legítima, presenta un informe incorrecto o provoca una pérdida económica, atribuirlo al algoritmo no resulta suficiente ante un regulador ni ante un tribunal.
Hacia un cumplimiento específico para la fuerza de trabajo de IA
El cumplimiento normativo tradicional está diseñado para auditar procesos humanos y decisiones empresariales. Los agentes que aprenden de nuevos datos y adaptan su comportamiento encajan peor en ese modelo.
Por eso gana peso la idea de crear un marco de cumplimiento específico para la fuerza de trabajo de IA. Este enfoque exige conservar los registros de decisión, revisar regularmente el comportamiento del sistema y garantizar que puede desactivarse sin borrar las pruebas de lo ocurrido.
La cuestión es especialmente relevante cuando los agentes gestionan activos, ejecutan transacciones o interactúan directamente con protocolos financieros en nombre de una empresa o de un cliente. La gobernanza ya no puede limitarse a comprobar si el sistema está disponible: debe determinar si sigue actuando dentro de los límites autorizados.
Las organizaciones que ya utilizan agentes en sus SOC están tomando ahora decisiones que probablemente se convertirán en estándares durante los próximos dos o tres años. Las que esperen a que la regulación las obligue tendrán que construir sus controles al ritmo de los supervisores. En ciberseguridad, esa diferencia de velocidad puede acabar siendo mucho más cara que la inversión inicial en supervisión.
