Un abogado utilizó ChatGPT para preparar un recurso por asesinato y fue multado por incluir testigos inventados
El Tribunal Supremo de Nuevo México ha sancionado con 5.000 dólares al abogado Stephen Aarons por presentar un recurso de apelación que contenía testigos inexistentes, declaraciones fabricadas y detalles que no aparecían en el expediente judicial. El tribunal también le ha declarado en desacato y ha remitido el caso al colegio de abogados para una posible investigación disciplinaria.
El escrito se preparó con ayuda de ChatGPT en el marco de la defensa de un hombre condenado por asesinato. La resolución judicial considera especialmente grave que la inteligencia artificial generativa no se limitara a cometer errores formales, sino que introdujera hechos falsos en un procedimiento relacionado con la libertad de una persona.
Testigos policiales que nunca declararon
Aarons asumió la defensa el año pasado y facilitó a ChatGPT la transcripción del juicio y otros documentos del caso. Su objetivo, según explicó ante el tribunal, era obtener un resumen completo y fiable del material para preparar el recurso de apelación.
Sin embargo, el texto generado incluyó referencias a testigos policiales que no existían, declaraciones que nunca se produjeron y una descripción de la ropa del supuesto autor del crimen que tampoco figuraba en el expediente. El recurso terminó incorporando, en palabras del tribunal, contenidos falsos procedentes de testigos completamente fabricados.
Durante la vista celebrada el 21 de agosto, la magistrada C. Shannon Bacon cuestionó que un profesional del Derecho pudiera alegar desconocimiento sobre los riesgos de la inteligencia artificial. La jueza recordó que las informaciones sobre los errores y las llamadas alucinaciones de estos sistemas aparecen de forma habitual en los medios.
El tribunal anula el recurso y aparta al abogado
La resolución, emitida el 10 de septiembre, concluye que Aarons mostró falta de remordimiento y escasa preocupación por las consecuencias para su cliente. El tribunal ha anulado el recurso presentado y ha designado a la Oficina Pública de Defensa para que asuma la representación.
El acusado, identificado por el apellido Sandoval, podrá presentar un nuevo recurso con asistencia legal diferente. La apelación de la condena por asesinato continuará, pero el trabajo realizado por Aarons queda fuera del procedimiento.
El abogado ha reconocido su error y ha asegurado que no comprendía hasta qué punto un sistema de inteligencia artificial podía inventar hechos. También ha defendido que se trató de un error honesto y ha pedido que el colegio profesional tenga en cuenta su arrepentimiento.
Qué son las alucinaciones de la inteligencia artificial
Una alucinación de IA es una respuesta que parece coherente y convincente, pero contiene información falsa o no respaldada por los datos disponibles. En los modelos de lenguaje de gran tamaño, conocidos como LLM, el sistema genera texto prediciendo qué palabras encajan mejor después de las anteriores.
Estos modelos son capaces de resumir, redactar y reorganizar información con gran fluidez, pero no funcionan como una base de datos que comprueba automáticamente cada afirmación. Cuando encuentran lagunas, documentos complejos o instrucciones ambiguas, pueden completar el relato con elementos plausibles que nunca estuvieron en el material original.
En un expediente judicial con numerosos nombres, declaraciones y fechas, ese comportamiento puede producir una combinación especialmente peligrosa: personajes que parecen reales, testimonios verosímiles y hechos que encajan en la narración, aunque no hayan ocurrido.
Un riesgo conocido en el ámbito legal
El caso de Nuevo México no es el primero en el que un abogado es sancionado por presentar contenidos generados por IA sin comprobarlos. En 2023, un juez federal de Nueva York multó a abogados que habían citado decisiones judiciales inexistentes creadas por un sistema de inteligencia artificial.
Durante 2024 se documentaron además varios incidentes similares en distintos estados de Estados Unidos. La diferencia en este caso está en la naturaleza del material inventado: no se trata únicamente de jurisprudencia falsa, sino de testigos y declaraciones introducidos en un recurso relacionado con una condena por asesinato.
La gravedad del contexto refuerza la obligación de supervisión profesional. Un abogado no puede trasladar al sistema la responsabilidad de comprobar los hechos, especialmente cuando el documento puede afectar a la libertad, la reputación o los derechos procesales de una persona.
Cómo reducir el riesgo al usar IA en documentos jurídicos
Las herramientas de inteligencia artificial pueden ayudar a clasificar documentos, localizar conceptos, detectar contradicciones o preparar un primer esquema. El problema aparece cuando se utilizan para generar hechos sin una revisión exhaustiva de cada afirmación.
- Verificar cada nombre, fecha, cita y referencia contra el expediente original.
- Utilizar la IA para organizar información confirmada, no para completar lagunas de un caso.
- Revisar manualmente cualquier texto antes de incorporarlo a un escrito judicial.
- Conservar un registro de los documentos utilizados y de las instrucciones dadas al sistema.
- Emplear soluciones jurídicas capaces de enlazar cada respuesta con una fuente verificable.
Algunas plataformas especializadas recurren a la generación aumentada mediante recuperación, conocida como RAG. Esta técnica combina el modelo de lenguaje con una colección concreta de documentos y trata de mostrar la fuente de cada afirmación. No elimina todos los errores, pero reduce la posibilidad de que el sistema improvise información fuera del material autorizado.
El caso de Stephen Aarons deja una conclusión aplicable a cualquier profesión que utilice IA: que un texto suene preciso no significa que sea verdadero. En ámbitos como la justicia, la medicina, las finanzas o el periodismo, la revisión humana no es un paso opcional, sino la barrera imprescindible frente a los errores de una tecnología que todavía puede inventar hechos con apariencia de certeza.
