Brasil intenta definir qué es un deepfake a cinco semanas de las elecciones
El Tribunal Superior Electoral de Brasil (TSE) afronta una decisión inédita antes de las elecciones del 4 de octubre: determinar cuándo un contenido político generado con inteligencia artificial deja de ser una representación legítima y se convierte en desinformación electoral.
El debate se ha acelerado tras la aparición de un avatar digital de Jair Bolsonaro durante el lanzamiento de campaña de su hijo, Flávio Bolsonaro, celebrado en julio. El expresidente, bajo arresto domiciliario y con restricciones expresas para realizar declaraciones públicas, apareció representado mediante una creación audiovisual generada por IA.
La simulación advertía de forma explícita que no se trataba del propio Bolsonaro, sino de un avatar artificial. Para el equipo de Flávio Bolsonaro, esa identificación impedía clasificar el contenido como deepfake, término que suele emplearse para describir vídeos, audios o imágenes creados o alterados con inteligencia artificial para inducir a error.
La coalición del presidente Luiz Inácio Lula da Silva ha defendido, sin embargo, que la etiqueta no resuelve el problema. Su argumento es que el contenido podría vulnerar las normas electorales sobre material sintético aunque el público conozca su origen artificial.
El dilema: transparencia frente a suplantación política
La mayoría de las normas aprobadas hasta ahora parten de una idea relativamente sencilla: si un contenido generado por IA está claramente identificado, el riesgo de engaño disminuye. El caso brasileño introduce una variable distinta: quién aparece representado y si esa persona puede intervenir legalmente en la campaña.
El avatar no afirmaba ser Bolsonaro, pero permitía que un político con prohibición de comunicación pública llegase a sus seguidores mediante una representación digital. Para el TSE, la cuestión ya no consiste solo en comprobar si existe una falsedad, sino en analizar las consecuencias jurídicas de reproducir la voz, la imagen o la presencia política de una persona impedida para hablar.
El presidente del tribunal, Kássio Nunes Marques, ha apuntado que el contenido generado con IA podría ser admisible cuando no provoque un daño demostrable. En cambio, el juez Alexandre de Moraes ha advertido de que la tecnología podría incumplir las condiciones del arresto de Bolsonaro y contribuir a la desinformación.
Las distintas interpretaciones reflejan la falta de una posición unificada dentro del tribunal, que debe concretar sus resoluciones en los próximos días. Brasil cuenta con más de 150 millones de votantes elegibles y apenas cinco semanas hasta la jornada electoral.
Un borrador con medidas inéditas
La propuesta que estudia el TSE combina varias obligaciones que, hasta ahora, no se habían aplicado conjuntamente en una campaña electoral. El borrador contempla:
- Etiquetado obligatorio para los contenidos políticos generados o modificados mediante inteligencia artificial.
- Restricciones a los sistemas de recomendación que promuevan candidatos concretos durante la campaña.
- Un periodo de silencio digital antes y después de la votación, durante el cual no podría publicarse ni promocionarse contenido político sintético.
La primera medida parece la más fácil de formular, pero también plantea importantes problemas de control. En Brasil, WhatsApp es uno de los principales canales de comunicación política. Los vídeos y audios circulan por grupos privados, se descargan y se reenvían con frecuencia sin sus metadatos originales.
Un watermark, o marca de agua digital, visible en una publicación de Instagram podría desaparecer cuando el archivo se comprime, se recorta o se comparte en otra plataforma. Además, un sistema de etiquetado pensado para redes abiertas resulta mucho más difícil de aplicar en conversaciones privadas y canales cifrados.
El reto de controlar los algoritmos
La posible limitación de los sistemas de recomendación sería la medida más innovadora. No supondría necesariamente prohibir la existencia de contenidos políticos, sino impedir que las plataformas los amplifiquen de forma automática mediante sus algoritmos.
Servicios como TikTok, YouTube, Instagram o X tendrían que modificar la forma en que seleccionan y distribuyen publicaciones relacionadas con candidatos. Estos sistemas analizan grandes volúmenes de datos para predecir qué puede interesar a cada usuario y ordenar su contenido, pero no siempre ofrecen criterios comprensibles o auditables desde el exterior.
La supervisión exigiría auditorías algorítmicas capaces de determinar si una plataforma está favoreciendo a un candidato, una campaña o un tipo de contenido sintético. También habría que diferenciar entre una recomendación automática, una búsqueda realizada por el usuario y la publicación ordinaria de un mensaje político.
La distinción es relevante desde el punto de vista legal: regular la distribución activa de un contenido no equivale a retirarlo. Cualquier error podría afectar a la libertad de expresión, a la actividad de los medios y a la capacidad de los ciudadanos para acceder a información electoral.
Una decisión con impacto internacional
El caso brasileño puede convertirse en un precedente para otros países que celebren elecciones en los próximos años. Las normas europeas y las iniciativas estadounidenses han confiado principalmente en la transparencia, la identificación del contenido sintético y las sanciones contra las falsificaciones engañosas.
La controversia de Bolsonaro demuestra que esas herramientas pueden quedarse cortas cuando el problema no es únicamente la autenticidad del mensaje. La identidad representada, las restricciones legales que afectan al protagonista y la manera en que el contenido llega a los votantes también pueden ser determinantes.
El TSE debe resolver en tiempo récord cómo aplicar conceptos jurídicos concebidos antes de que la inteligencia artificial pudiera generar avatares con una apariencia y una voz convincentes. La decisión no solo definirá el marco de las últimas semanas de campaña en Brasil, sino que puede establecer hasta dónde llega la responsabilidad de los partidos, las plataformas y los creadores de contenido político generado con IA.
