Europa obliga a identificar los contenidos generados por inteligencia artificial
La Unión Europea da un nuevo paso para aumentar la transparencia de los contenidos creados o manipulados con inteligencia artificial. La aplicación de las obligaciones específicas de la Ley de IA incorpora requisitos de identificación y etiquetado destinados a reducir los engaños, especialmente cuando una imagen, un vídeo, un audio o un texto puede confundirse con una creación humana.
El objetivo no es prohibir el uso de herramientas generativas, sino facilitar que los ciudadanos sepan cuándo están ante un contenido producido total o parcialmente por una máquina. La norma establece, sin embargo, que no todos los materiales deberán mostrar una etiqueta idéntica: las exigencias dependen del tipo de contenido, de la tecnología empleada y del posible impacto sobre el público.
Una obligación de transparencia con varios niveles
Las empresas que desarrollen o pongan a disposición sistemas capaces de generar audio, imágenes, vídeo o texto deberán incorporar mecanismos que permitan identificar el origen artificial de esos contenidos. En la práctica, esto puede traducirse en marcas técnicas legibles por sistemas informáticos, metadatos u otros métodos que ayuden a rastrear cómo se ha creado una pieza.
Estas señales no siempre serán visibles para el usuario. Su función principal será permitir que plataformas, herramientas de verificación y otros servicios detecten que un archivo ha sido generado o alterado mediante inteligencia artificial. La medida busca mejorar la trazabilidad y dificultar que los contenidos sintéticos circulen sin contexto.
La identificación visible adquiere mayor importancia cuando el material puede provocar una percepción falsa de la realidad. Los vídeos manipulados, las imitaciones de voz y las imágenes que presentan como reales hechos que nunca ocurrieron entran en la categoría de contenidos que requieren una advertencia clara.
Los deepfakes tendrán que advertir de su naturaleza
Las obligaciones alcanzan de forma directa a los conocidos como deepfakes: contenidos generados o modificados con IA que pueden hacer creer que una persona ha dicho o hecho algo que nunca ocurrió. La advertencia deberá ser comprensible y visible, de modo que no quede escondida entre condiciones de uso o elementos secundarios de la interfaz.
La norma también contempla los casos en los que una persona aparece representada en un contexto ficticio o alterado. Esto incluye, por ejemplo, una voz clonada, un rostro superpuesto en una grabación o una recreación digital que imita a una persona real. El propósito es reducir el riesgo de fraude, suplantación de identidad y manipulación de la opinión pública.
El texto generado por IA no tendrá siempre el mismo tratamiento
Una de las cuestiones más delicadas afecta a los contenidos escritos. La legislación europea prevé obligaciones de transparencia cuando un sistema genera textos destinados a informar al público sobre asuntos de interés general. No obstante, la aplicación no será automática en todos los artículos, publicaciones o mensajes creados con ayuda de una herramienta de IA.
Cuando exista una revisión humana adecuada y una persona o entidad asuma la responsabilidad editorial, la exigencia puede aplicarse de manera distinta. Esta diferencia pretende evitar que cualquier uso auxiliar de la IA, como corregir una frase, resumir información o proponer titulares, obligue a presentar el resultado como un contenido íntegramente automatizado.
La clave estará en distinguir entre una herramienta de apoyo y un sistema que produce por sí mismo una pieza informativa con capacidad para influir en la percepción de la ciudadanía. En este último supuesto, la transparencia tendrá un peso mayor.
Qué cambia para las plataformas y los usuarios
Las plataformas digitales, los medios, las empresas tecnológicas y los desarrolladores tendrán que adaptar sus procesos para incorporar avisos, sistemas de marcado y documentación sobre el origen de los contenidos. También deberán ofrecer información suficiente para que los usuarios entiendan cuándo interactúan con material sintético o con una recreación digital.
Para los ciudadanos, el cambio más visible será la aparición de etiquetas y avisos en vídeos, audios e imágenes manipulados. Estos indicadores no garantizan por sí solos que el contenido sea falso o dañino, pero sí aportan un contexto esencial: muestran que no debe interpretarse como un registro auténtico sin realizar comprobaciones adicionales.
- Imágenes, vídeos y audios sintéticos: deberán incorporar mecanismos técnicos de identificación.
- Deepfakes: tendrán que incluir una advertencia clara y perceptible.
- Textos de interés público: podrán estar sujetos a obligaciones específicas de transparencia.
- Revisión humana: puede influir en la forma en que se aplica el etiquetado en contenidos informativos.
El reto será hacer visibles las señales
La eficacia de estas medidas dependerá de que las marcas sean compatibles entre servicios y de que no puedan eliminarse con facilidad al descargar, editar o volver a publicar un archivo. También será necesario que las plataformas expliquen sus criterios de forma sencilla y que los usuarios aprendan a interpretar los avisos sin asumir que una etiqueta equivale automáticamente a una falsificación.
Europa apuesta así por un modelo basado en la información del usuario. La inteligencia artificial seguirá presente en la creación de contenidos, pero su origen no debería quedar oculto cuando exista un riesgo razonable de confusión. La nueva fase de la normativa pretende que la innovación avance junto a una regla básica: saber si aquello que vemos, escuchamos o leemos procede de una persona, de una máquina o de una combinación de ambas.
