¿Quién responde ante la justicia cuando un agente de IA autónomo causa daños?
Los agentes de inteligencia artificial capaces de tomar decisiones, ejecutar órdenes y encadenar acciones sin supervisión constante ya forman parte de numerosos servicios digitales. Pueden gestionar compras, modificar bases de datos, contratar recursos en la nube o interactuar con clientes. Pero, cuando uno de estos sistemas se equivoca y provoca un perjuicio, surge una cuestión todavía sin una respuesta única: ¿quién asume la responsabilidad legal?
La autonomía técnica de una IA no la convierte, por ahora, en una persona ni en un sujeto con derechos y obligaciones. En la Unión Europea, la responsabilidad seguirá recayendo sobre personas físicas o jurídicas: el proveedor que desarrolla el sistema, la empresa que lo utiliza, el profesional que lo supervisa o, en determinados casos, varios de ellos al mismo tiempo.
La IA no responde por sí misma
El primer punto que destacan los expertos en derecho tecnológico es que un agente autónomo no tiene personalidad jurídica. Aunque pueda planificar tareas y actuar con un margen amplio de independencia, no puede ser demandado, sancionado o condenado como lo sería una empresa o un ciudadano.
Por tanto, los tribunales tendrán que analizar cómo se diseñó, entrenó y desplegó el sistema. También deberán determinar quién tenía capacidad real para prevenir el daño y si actuó de forma diligente. La pregunta no será únicamente qué hizo la IA, sino quién decidió ponerla en funcionamiento bajo esas condiciones.
El proveedor y el usuario pueden compartir responsabilidades
El fabricante o desarrollador podría responder si el agente presenta un defecto de diseño, carece de medidas de seguridad razonables o fue comercializado con instrucciones insuficientes. También podría existir responsabilidad si una actualización introduce un fallo previsible o si el sistema no incorpora mecanismos adecuados para limitar operaciones peligrosas.
La empresa usuaria, por su parte, no queda exenta por utilizar una tecnología desarrollada por terceros. Si configura el agente de forma incorrecta, le concede permisos excesivos, ignora las alertas o lo emplea en un contexto para el que no fue diseñado, puede asumir una parte importante de la responsabilidad.
En algunos casos, el problema estará relacionado con los datos. Un agente que discrimina a candidatos en un proceso de selección, rechaza injustificadamente una solicitud de crédito o toma decisiones erróneas sobre clientes puede generar consecuencias bajo la normativa de protección de datos y la legislación contra la discriminación.
El Reglamento europeo de IA no resuelve por sí solo las indemnizaciones
El Reglamento europeo de Inteligencia Artificial establece obligaciones para los sistemas considerados de mayor riesgo, como controles, documentación, supervisión humana, gestión de riesgos y conservación de registros. Estas exigencias pueden servir para demostrar que una empresa actuó correctamente o, al contrario, que incumplió sus deberes.
Sin embargo, esta norma no convierte automáticamente cada incidente en una indemnización ni determina por sí sola quién debe pagar. La reclamación puede apoyarse en las reglas generales de responsabilidad civil, en la normativa de consumo, en la protección de datos o en las obligaciones contractuales entre las partes.
La prueba será uno de los principales problemas
Demostrar el daño causado por un agente de IA puede resultar especialmente complejo. Estos sistemas pueden operar mediante varios modelos, herramientas y proveedores, además de modificar sus estrategias según el contexto. Reconstruir qué decisión provocó el perjuicio exigirá acceder a registros técnicos, instrucciones, permisos y comunicaciones internas.
Por eso, la trazabilidad será esencial. Las organizaciones deberían conservar los avisos del sistema, las órdenes recibidas, las respuestas generadas, las acciones ejecutadas y las intervenciones humanas. También tendrán que documentar las pruebas realizadas antes del lanzamiento y los controles aplicados durante la operación.
Cuando una compañía no pueda explicar razonablemente cómo actuó su agente o haya eliminado los registros relevantes, su posición procesal podría complicarse. La falta de transparencia no demuestra por sí sola la responsabilidad, pero puede dificultar la defensa y reforzar la necesidad de aportar pruebas adicionales.
¿Puede existir responsabilidad penal?
La vía penal plantea aún más límites. Un agente de IA no puede ser encarcelado ni actuar con culpabilidad en sentido jurídico. Para que exista un delito, los investigadores deberán localizar una conducta humana relevante, como una orden deliberada, una omisión grave de controles o una decisión consciente de mantener un sistema peligroso en funcionamiento.
La responsabilidad penal de administradores o empleados dependerá de sus funciones, conocimientos y grado de participación. No bastará con demostrar que una herramienta automática cometió un error. Será necesario acreditar, por ejemplo, que alguien ignoró riesgos evidentes o permitió una utilización manifiestamente insegura.
Contratos, seguros y supervisión humana
Los contratos entre desarrolladores, proveedores de infraestructura y clientes tendrán un papel cada vez más importante. En ellos se definirán los límites de uso, las obligaciones de seguridad, el acceso a los registros y el reparto de costes cuando se produzca una incidencia. Aun así, una cláusula contractual no siempre podrá excluir los derechos de consumidores o terceros perjudicados.
También crecerá la importancia de los seguros específicos para sistemas de IA. Las pólizas podrían cubrir errores de automatización, interrupciones del servicio, filtraciones de datos o decisiones defectuosas, aunque previsiblemente exigirán controles técnicos y humanos verificables.
La solución no pasa por prohibir la autonomía de estos agentes, sino por imponer límites claros. Permisos mínimos, supervisión proporcional al riesgo, registros completos y mecanismos de parada serán elementos decisivos para prevenir daños y determinar responsabilidades.
En definitiva, cuando un agente de IA se descontrole, los tribunales no juzgarán a la máquina como si fuera una persona. Examinarán toda la cadena: quién la creó, quién la puso en marcha, qué controles existían y si alguien incumplió su deber de diligencia. La autonomía del software puede ser muy amplia, pero la responsabilidad jurídica seguirá teniendo, al menos por ahora, un origen humano.
