Un tribunal alemán responsabiliza a Google por un falso delito generado por su Modo IA
Un tribunal de Aquisgrán ha ordenado a Google impedir que su Modo IA difunda acusaciones falsas contra un médico alemán. El sistema le atribuía un delito de agresión sexual, un despido y una indemnización millonaria que, en realidad, correspondían a otra persona.
La resolución considera que el resumen generado por inteligencia artificial puede constituir una declaración propia de Google, especialmente cuando presenta una información falsa de forma elaborada y sin enlaces que permitan comprobar su origen. Se trata de una medida cautelar, por lo que todavía no es firme y la compañía puede recurrirla.
Una acusación penal atribuida a la persona equivocada
El caso comenzó a finales de agosto, cuando un compañero avisó al médico de que su nombre, combinado con determinados términos relacionados con su salida del hospital, activaba un resultado especialmente grave en el Modo IA de Google.
El resumen afirmaba que el profesional había acosado a su secretaria durante un viaje de negocios, que había sido despedido, que había recibido una condena condicional por agresión sexual y que había abandonado el centro con una indemnización de seis cifras.
Según la información examinada durante el procedimiento, ninguno de esos hechos era cierto. Todo apunta a que el sistema mezcló la identidad del médico con la de otro antiguo miembro del equipo directivo del mismo hospital. Además, las noticias enlazadas como posibles fuentes no identificaban al demandante ni le atribuían esos hechos.
Otras búsquedas con términos relacionados con una rescisión laboral o procedimientos judiciales también habrían producido respuestas similares. El problema no se limitaba, por tanto, a una mención aislada, sino a la repetición de una asociación falsa en diferentes consultas.
Google rechazó inicialmente retirar el contenido
El médico se puso en contacto con Google para solicitar la eliminación de la información. La compañía respondió que había revisado la reclamación, pero decidió no adoptar ninguna medida. Una advertencia posterior remitida por sus abogados tampoco modificó la posición de la empresa.
Ante esta respuesta, el afectado acudió a los tribunales. El de Aquisgrán concluyó que los textos vulneraban su derecho general a la personalidad, protegido por la legislación alemana, al vincularle con delitos y consecuencias laborales que correspondían a otra persona.
La orden se dictó mediante un procedimiento de urgencia y sin escuchar previamente a Google. El tribunal justificó esta vía por el posible daño a la reputación profesional y social del médico. Cada incumplimiento podría acarrear una multa de hasta 250.000 euros.
Qué son los resúmenes de IA de Google
Los resúmenes de IA, conocidos como AI Overviews, aparecen en la parte superior de determinadas páginas de resultados. Su función es responder directamente a la consulta del usuario mediante un texto generado automáticamente, en lugar de limitarse a mostrar una lista de enlaces.
Para elaborarlos, el sistema analiza información disponible en distintas páginas y genera una respuesta en lenguaje natural. Esta tecnología utiliza modelos de inteligencia artificial capaces de predecir y ordenar palabras para construir textos coherentes. Sin embargo, no comprenden los hechos como lo haría una persona ni garantizan que cada afirmación sea verdadera.
Uno de los riesgos más conocidos es la llamada alucinación de la IA: una respuesta que parece segura y bien redactada, pero que contiene datos inventados, combinados de forma incorrecta o atribuidos a la persona equivocada.
Los enlaces pueden ayudar a verificar la información, pero no eliminan el problema. En este caso, según la resolución, el resumen tenía apariencia de relato completo y no ofrecía una advertencia suficiente sobre su posible falta de fiabilidad.
Un precedente judicial en Múnich
La decisión de Aquisgrán se apoya en un precedente del Tribunal Regional I de Múnich. En mayo, ese órgano consideró que Google podía ser directamente responsable de sus resúmenes de inteligencia artificial.
La demanda había sido presentada por dos editoriales que aparecían relacionadas por error con estafas de suscripción y mecanismos fraudulentos. Google defendió que los usuarios podían consultar las fuentes enlazadas y que sabían que no debían confiar ciegamente en una respuesta generada por IA.
El tribunal rechazó ese argumento. A su juicio, el resumen funcionaba como una declaración autónoma, es decir, como un contenido que podía ser leído y entendido por sí mismo sin que el usuario tuviera que abrir ningún enlace. Por ello, la presencia de referencias no bastaba para eximir a Google de responsabilidad.
Aquel litigio terminó posteriormente mediante un acuerdo extrajudicial, sin que trascendieran sus condiciones. La sentencia de Aquisgrán refuerza, de momento, la idea de que los buscadores no pueden presentar como hechos afirmaciones generadas automáticamente y desentenderse de sus consecuencias.
Un nuevo frente legal para los buscadores
El caso alemán plantea una cuestión clave para la expansión de la inteligencia artificial en los buscadores: quién responde cuando una herramienta automatizada acusa a una persona de haber cometido un delito y no aporta pruebas claras o enlaces relevantes.
La respuesta de los tribunales alemanes apunta a Google cuando el contenido se muestra como una conclusión propia del servicio. La compañía todavía puede recurrir tanto la resolución de Aquisgrán como las decisiones relacionadas con el precedente de Múnich, por lo que el criterio no es definitivo.
Mientras tanto, el caso evidencia la importancia de revisar cualquier resumen generado por IA, sobre todo cuando afecta a la reputación de una persona o empresa. Una respuesta convincente no equivale necesariamente a una respuesta verificada, y la ausencia de enlaces puede hacer todavía más difícil detectar el origen de un error.
