Reclamar facturas, buscar vuelos y anular suscripciones: la cara B de los agentes de IA
Los agentes de inteligencia artificial prometen hacer por nosotros una parte cada vez mayor de las tareas digitales cotidianas: reclamar una factura incorrecta, encontrar un vuelo barato, cancelar una suscripción o completar trámites online. La diferencia frente a un chatbot convencional es que no se limitan a responder. Pueden planificar varios pasos, navegar por páginas web y ejecutar acciones en nombre del usuario.
Ese salto de la conversación a la acción también introduce un riesgo considerable. Para funcionar con autonomía, estos sistemas necesitan consultar correos electrónicos, calendarios, documentos, cuentas bancarias, historiales de compra y otros datos personales. Además, una interpretación errónea puede terminar en una compra no deseada, una cancelación irreversible o la divulgación de información privada.
De responder preguntas a tomar decisiones
Un asistente tradicional ofrece instrucciones para reclamar un cobro o recomienda varias opciones de viaje. Un agente de IA intenta completar el proceso. Puede localizar una factura en el correo, identificar un importe aparentemente incorrecto, redactar una reclamación y enviarla. También puede comparar vuelos, aplicar filtros, rellenar formularios y avanzar hasta el momento del pago.
Esta capacidad resulta especialmente atractiva porque elimina tareas repetitivas y fricciones diseñadas, en muchos casos, para consumir tiempo. Las empresas pueden utilizar estos agentes para gestionar incidencias, organizar agendas o automatizar procesos internos. En el ámbito doméstico, el usuario puede delegar gestiones que normalmente pospone durante días o semanas.
Sin embargo, la autonomía exige algo más que una buena respuesta lingüística. El sistema debe interpretar el objetivo, distinguir entre instrucciones y datos, acceder a servicios externos y decidir cuándo puede actuar sin pedir permiso. Cada uno de esos pasos abre una nueva posibilidad de error.
El precio de la comodidad: acceso casi total
Para reclamar una factura, el agente necesita encontrarla. Para cancelar una suscripción, debe saber qué servicio se está pagando y, posiblemente, entrar en la cuenta correspondiente. Para organizar un viaje, puede requerir acceso al calendario, al correo, a los datos de pasajeros y a los medios de pago.
El problema no es únicamente que el sistema pueda leer esa información. También puede combinarla y extraer conclusiones que el usuario no esperaba. Un correo aparentemente irrelevante puede revelar una reserva médica, un documento puede contener datos bancarios y el calendario puede mostrar rutinas, relaciones personales o desplazamientos habituales.
Concentrar tantos permisos en una única herramienta crea un objetivo muy atractivo para los ciberdelincuentes. Una cuenta comprometida podría permitir consultar mensajes, modificar reservas, iniciar conversaciones en nombre del usuario o realizar compras. La seguridad del agente dependería no solo de su proveedor, sino también de todas las plataformas con las que se conecta.
Errores pequeños con consecuencias reales
Los modelos de IA pueden generar respuestas convincentes incluso cuando no han entendido bien una situación. En un sistema que solo redacta un texto, el fallo puede corregirse antes de enviarlo. En un agente con permisos para actuar, el margen de rectificación puede desaparecer.
- Cancelar una suscripción que el usuario quería conservar.
- Reclamar un cargo legítimo y deteriorar la relación con una empresa.
- Reservar un vuelo con una tarifa no reembolsable o en una fecha equivocada.
- Enviar información privada al destinatario incorrecto.
- Aceptar condiciones comerciales sin que el usuario las haya revisado.
También existe el riesgo de que el agente sea manipulado por el contenido que encuentra durante su navegación. Una página web, un correo o un documento puede incluir instrucciones diseñadas para confundir al sistema y hacer que revele datos o ejecute una acción distinta de la solicitada. Este tipo de ataques, conocidos como inyección de instrucciones, resulta especialmente relevante cuando la IA tiene capacidad operativa.
La supervisión humana sigue siendo imprescindible
La automatización no debería equivaler a barra libre. Los agentes más seguros tendrían que trabajar con permisos limitados, solicitar confirmación antes de acciones sensibles y mantener un registro comprensible de cada paso. No es lo mismo consultar el precio de un vuelo que comprarlo, ni preparar una reclamación que enviarla.
Una configuración responsable puede separar tareas de bajo y alto riesgo. La IA podría clasificar correos, recopilar documentos o proponer alternativas sin intervención. En cambio, debería pedir autorización antes de realizar pagos, cancelar servicios, compartir datos personales o aceptar contratos.
También conviene aplicar el principio de mínimo privilegio: conceder únicamente el acceso necesario y durante el tiempo imprescindible. Una herramienta encargada de organizar viajes no necesita leer todos los mensajes del correo, y un agente que gestiona facturas no debería tener acceso permanente a la cuenta bancaria.
Qué debe revisar el usuario antes de delegar
Antes de conectar un agente de IA con sus servicios digitales, el usuario debería comprobar qué información recopila, dónde se almacena y si se utiliza para entrenar modelos. También es importante conocer cómo se revocan los permisos y qué responsabilidad asume la empresa si el sistema comete un error.
- Activar la autenticación en dos pasos en las cuentas vinculadas.
- Evitar permisos globales cuando exista una alternativa más limitada.
- Exigir confirmación para pagos, cancelaciones y envíos de información.
- Revisar periódicamente el historial de acciones del agente.
- No introducir contraseñas ni datos especialmente sensibles en servicios poco conocidos.
Los agentes de IA pueden convertirse en una herramienta útil para recuperar tiempo y simplificar gestiones, pero todavía no son un sustituto de la supervisión. La promesa de una inteligencia artificial que se ocupa de todo depende de una condición que suele quedar en segundo plano: que el usuario pueda confiar en sus decisiones, limitar su alcance y corregir sus errores antes de que sean irreversibles.
