Quién responde cuando una inteligencia artificial ejecuta un ciberataque
La expansión de los agentes de inteligencia artificial capaces de navegar por internet, escribir código y ejecutar tareas de forma autónoma está abriendo una pregunta que ya no pertenece a la ciencia ficción: ¿quién es responsable si uno de estos sistemas lanza un ciberataque?
La respuesta no pasa, al menos por ahora, por culpar automáticamente al director de una empresa tecnológica ni por considerar responsable a la propia IA. La responsabilidad podría repartirse entre el atacante que utiliza el sistema, la compañía que lo desarrolla, el cliente que lo despliega y las personas encargadas de supervisarlo. Todo dependerá de la intención, el nivel de control y la legislación aplicable.
La IA no tiene responsabilidad penal propia
En los principales sistemas jurídicos, una inteligencia artificial no es una persona ni una entidad con capacidad legal para responder ante un tribunal. No puede ser detenida, juzgada o condenada. Aunque un agente automatizado tome decisiones y ejecute acciones sin intervención humana directa, la ley sigue buscando a las personas y organizaciones que han intervenido en su creación o utilización.
Esto no significa que la autonomía del software sea irrelevante. Cuanto más independiente sea un agente para identificar objetivos, generar herramientas o acceder a sistemas, más difícil resultará determinar quién tenía el deber de prevenir el daño. La investigación deberá reconstruir qué instrucciones recibió, qué permisos tenía y qué controles estaban activos.
El hacker que utiliza un agente será el primer responsable
Si una persona emplea un agente de IA para robar credenciales, infectar redes o extraer información, la responsabilidad principal recaerá previsiblemente sobre quien diseñó y dirigió la operación. La herramienta utilizada no cambia necesariamente la naturaleza del delito, del mismo modo que un atacante sigue siendo responsable aunque emplee un programa automatizado o un servicio contratado a terceros.
La inteligencia artificial puede multiplicar la velocidad y el alcance de una campaña, pero no elimina la intención de quien la pone en marcha. Un delincuente que ordena a un sistema buscar vulnerabilidades y comprometer servidores podría enfrentarse a cargos relacionados con acceso ilícito, fraude, daños informáticos o espionaje, según el país afectado.
¿Y si el agente actúa sin una orden concreta?
El escenario más complejo aparece cuando el usuario no ordena expresamente un ataque, pero concede al agente permisos amplios y este toma decisiones imprevistas. Por ejemplo, un sistema podría interpretar una tarea de auditoría de forma demasiado agresiva, acceder a recursos no autorizados o provocar la caída de una infraestructura crítica.
En estos casos, los investigadores tendrían que analizar si existió negligencia. También sería relevante saber si el usuario conocía las limitaciones del agente, si ignoró advertencias de seguridad o si configuró el sistema para operar sin supervisión. La autonomía tecnológica no debería confundirse con ausencia de responsabilidad humana.
La responsabilidad de las empresas tecnológicas
Las compañías que desarrollan modelos de IA no son automáticamente responsables de todos los usos maliciosos de sus productos. Un modelo general puede emplearse para tareas legítimas y, al mismo tiempo, ser manipulado por delincuentes. Sin embargo, la empresa podría responder si actuó con negligencia grave, ocultó riesgos conocidos o comercializó un sistema con medidas de seguridad claramente insuficientes.
La evaluación incluiría aspectos como los controles de acceso, los filtros contra instrucciones peligrosas, los registros de actividad y la capacidad de detener operaciones sospechosas. También podría estudiarse si la compañía informó de forma adecuada sobre los riesgos y si corrigió vulnerabilidades después de detectarlas.
La pregunta sobre si un ejecutivo como Sam Altman podría ser juzgado por un ataque realizado por un agente de IA tiene, por tanto, una respuesta matizada: no por el mero hecho de dirigir una empresa que desarrolla el sistema. Para que existiera una posible responsabilidad personal habría que demostrar participación directa, autorización, conocimiento del riesgo o una conducta negligente concreta.
El papel de las empresas que despliegan la IA
Entre el desarrollador del modelo y el atacante existe otro actor cada vez más importante: la organización que integra el agente en sus procesos. Una compañía puede utilizar un sistema autónomo para administrar servidores, responder a incidentes o gestionar operaciones financieras. Si le concede permisos excesivos y no establece supervisión, podría asumir responsabilidades por los daños ocasionados.
Este riesgo aumenta en sectores como la energía, las telecomunicaciones, la banca, la sanidad o la administración pública. Un fallo en un agente conectado a sistemas críticos podría provocar interrupciones masivas, filtraciones de datos o daños físicos. Por ello, la seguridad no puede basarse únicamente en la confianza en el proveedor del modelo.
Qué deberán demostrar las investigaciones
Los futuros casos de ciberataques con IA exigirán conservar pruebas que hasta ahora no siempre se consideran prioritarias. Los registros de actividad, las instrucciones introducidas, las versiones del modelo, los permisos concedidos y las decisiones tomadas por el agente serán fundamentales para reconstruir los hechos.
- Quién puso en marcha el sistema y con qué objetivo.
- Qué acceso tenía el agente y si superaba lo necesario para cumplir su tarea.
- Qué advertencias emitió y si fueron ignoradas.
- Si existían mecanismos para detenerlo o limitar sus acciones.
- Qué medidas adoptaron el desarrollador y el usuario para evitar el abuso.
La trazabilidad será uno de los elementos centrales. Sin registros fiables, atribuir un ataque puede resultar tan difícil como identificar al autor de una operación realizada a través de múltiples servidores, cuentas robadas y servicios automatizados.
Una regulación todavía en construcción
La legislación sobre inteligencia artificial avanza, pero no ofrece una respuesta completa para todos los escenarios. Las normas pueden establecer obligaciones de transparencia, gestión de riesgos y supervisión humana, aunque todavía queda por definir cómo se repartirán las responsabilidades cuando intervengan varios países y proveedores tecnológicos.
Mientras tanto, las organizaciones deberán aplicar un principio básico: ningún agente de IA debería disponer de más permisos de los estrictamente necesarios. La supervisión, la separación de funciones, las pruebas en entornos aislados y la capacidad de apagar el sistema deben formar parte del diseño desde el primer momento.
La cuestión no es solo quién será juzgado después de un ciberataque. También es quién tenía la obligación de impedirlo y qué controles fallaron. A medida que los agentes de IA pasen de responder preguntas a actuar directamente sobre el mundo digital, esa diferencia será decisiva.
