El Consejo de Supervisión de Meta ordena retirar dos deepfakes y cuestiona sus normas de IA
El Consejo de Supervisión de Meta ha ordenado a la compañía retirar dos vídeos manipulados con inteligencia artificial y ha concluido que sus reglas sobre contenido generado por IA son fundamentalmente inadecuadas para hacer frente al rápido crecimiento de los deepfakes.
Las dos resoluciones, publicadas el 17 de septiembre, incluyen nueve recomendaciones para reforzar la moderación en Facebook e Instagram. Meta dispone ahora de 60 días para responder y explicar qué medidas acepta y cuáles rechaza.
Las órdenes de retirada son vinculantes para la empresa. Sin embargo, las recomendaciones generales sobre sus políticas no lo son: Meta puede no aplicarlas, siempre que justifique su decisión.
Un vídeo falso atribuido a una concejala escocesa
Uno de los casos afecta a una concejala del Partido Laborista en Escocia. En noviembre de 2025, un usuario publicó en Facebook un álbum que incluía un vídeo creado con IA en el que la política parecía realizar comentarios ofensivos, sarcásticos e incendiarios sobre refugiados y agresiones sexuales.
La concejala nunca pronunció esas palabras. Además, ya había denunciado amenazas, intimidaciones y campañas de difamación generadas mediante inteligencia artificial, en un contexto de oposición pública a la desinformación racista y al discurso antimigratorio.
Meta consideró inicialmente que el vídeo no infringía sus normas. Su política establecía que las figuras públicas adultas no están protegidas automáticamente frente a imágenes manipuladas no deseadas. El Consejo ha revocado esa decisión y ha ordenado eliminar el contenido.
El caso muestra uno de los riesgos más sensibles de un deepfake: un vídeo o audio alterado digitalmente para hacer creer que una persona ha dicho o hecho algo que nunca ocurrió. Cuando la víctima es una figura política, la falsificación puede afectar a su reputación y distorsionar el debate público.
Decenas de millones de visualizaciones para acosar a una activista
La segunda resolución se refiere a una joven musulmana residente en Europa que participaba en una campaña de educación sobre salud menstrual dirigida a mujeres y niñas de minorías étnicas.
Varios vídeos e imágenes manipulados con IA la ridiculizaban. En uno de ellos aparecía realizando ejercicios absurdos y comiendo comida basura. El contenido llegó a acumular decenas de millones de visualizaciones en plataformas de Meta.
La compañía cerró automáticamente el primer aviso y la posterior apelación. El vídeo solo fue retirado después de la intervención del Consejo, que determinó que infringía las normas de Meta contra el bullying y el acoso.
La diferencia entre ambos expedientes revela un vacío relevante. En el caso de la concejala, las reglas excluían en la práctica a las figuras públicas adultas de la protección frente a ciertas manipulaciones. En el de la activista, el problema fue la falta de respuesta eficaz ante varios avisos.
Más controles para el contenido generado por IA
El Consejo propone que Meta cambie el modo en que identifica y distribuye los contenidos sintéticos. Entre sus recomendaciones destacan:
- Ampliar las etiquetas de IA de alto riesgo más allá de los periodos electorales y las situaciones de crisis.
- Incorporar una pantalla de advertencia que obligue a pulsar para ver el contenido, en lugar de limitarse a añadir una etiqueta.
- Reducir la visibilidad o retirar la monetización de las publicaciones marcadas.
- Penalizar a las cuentas que compartan deepfakes de forma repetida.
- Publicar cada año datos sobre el número de contenidos identificados y etiquetados.
- Ampliar la definición de imágenes manipuladas no deseadas para incluir a personas privadas que aparezcan diciendo o haciendo algo que nunca hicieron.
Una etiqueta de IA informa de que una imagen, un vídeo o un audio ha sido generado o modificado mediante herramientas automáticas. El Consejo considera que, en los casos más peligrosos, esa información no basta: el usuario puede ver, compartir o recomendar el contenido antes de comprender que es falso.
La presión regulatoria aumenta en Europa
El calendario coincide con la entrada en vigor, el 2 de agosto de 2026, de nuevas obligaciones del Reglamento europeo de Inteligencia Artificial. La norma exige identificar los contenidos generados por IA que intenten parecer auténticos y contempla multas de hasta el 3% de la facturación global.
El vídeo atribuido falsamente a la concejala encaja en uno de los escenarios que la regulación europea considera especialmente delicados: un supuesto mensaje político realista, difundido sin advertencia y capaz de influir en la opinión pública.
El debate también se extiende a otras democracias. En Brasil, el Tribunal Superior Electoral trabaja estas semanas en una definición operativa de deepfake a menos de cinco semanas de las elecciones de octubre de 2026.
Meta tendrá que justificar sus decisiones
El Consejo de Supervisión fue creado por Meta en 2020 para revisar decisiones controvertidas sobre contenidos y responder a las críticas sobre la gestión de la desinformación y el discurso de odio. Está formado por 21 especialistas en Derecho, derechos humanos, periodismo y otras áreas.
Su capacidad es limitada pero relevante. Puede ordenar la retirada de publicaciones concretas, aunque no puede obligar a Meta a aceptar sus recomendaciones estructurales. La empresa suele cumplir las órdenes sobre contenidos individuales con mayor frecuencia que las propuestas que afectan a sus políticas generales.
Las nuevas medidas podrían tener un impacto directo en la distribución y la monetización del contenido generado por IA. Por eso, Meta podría rechazar algunas alegando dificultades técnicas, protección de la libertad de expresión o problemas para distinguir entre sátira, manipulación y fraude.
El fondo de la advertencia es claro: crear un deepfake convincente está al alcance de cualquier usuario con un ordenador y herramientas accesibles, mientras que la detección automatizada no siempre avanza al mismo ritmo. Hasta que esa tecnología mejore, el Consejo reclama que las plataformas refuercen sus normas, sus sistemas de denuncia y las consecuencias para quienes difunden falsificaciones de forma reiterada.
