El algoritmo de TikTok queda bajo sospecha por recomendar vídeos de abusos sexuales
El funcionamiento de los sistemas de recomendación de TikTok vuelve a situarse en el centro del debate sobre la seguridad digital. David Fernández, director de Tecnología de la Fundación Maldita.es, ha advertido de que el algoritmo de la plataforma puede llegar a recomendar vídeos relacionados con abusos sexuales, un riesgo que afecta especialmente a menores y usuarios vulnerables.
La alerta pone el foco en una cuestión clave: las plataformas no solo muestran el contenido que cada persona busca de forma activa. También seleccionan y ordenan vídeos mediante sistemas automatizados que analizan el comportamiento del usuario, sus interacciones y el tiempo que permanece viendo cada publicación.
Cuando estos mecanismos interpretan que un determinado tema genera interés, pueden continuar ofreciendo vídeos similares. El problema aparece cuando esa lógica de personalización entra en contacto con contenidos dañinos, ilegales o potencialmente traumáticos.
La recomendación automática puede amplificar contenidos peligrosos
El algoritmo de TikTok está diseñado para maximizar la atención y el tiempo de uso. Para ello, tiene en cuenta factores como las visualizaciones completas, los comentarios, los vídeos compartidos, los perfiles visitados o la repetición de determinados contenidos.
Este modelo puede crear una espiral de recomendaciones. Un usuario que se detiene unos segundos más de lo habitual ante un vídeo puede recibir nuevas publicaciones relacionadas, aunque no haya expresado de manera explícita su voluntad de seguir consumiendo ese material.
En el caso de contenidos vinculados con abusos sexuales, las consecuencias son especialmente graves. No se trata únicamente de una cuestión de moderación, sino de protección de las víctimas, prevención de la explotación y responsabilidad de las empresas tecnológicas.
La detección automática tampoco resuelve por sí sola el problema. Los vídeos pueden aparecer recortados, ocultar palabras clave, utilizar imágenes aparentemente inocuas o difundirse mediante cuentas que cambian con rapidez. A ello se suma la capacidad de las redes para volver a poner en circulación material que ya había sido retirado.
La inteligencia artificial complica la valoración de las pruebas
Fernández también ha expresado su preocupación por el impacto de la inteligencia artificial en los procedimientos judiciales. La expansión de las herramientas capaces de generar o modificar vídeos permite alterar rostros, voces, gestos y contextos con un nivel de realismo cada vez mayor.
El riesgo afecta directamente a la prueba audiovisual. Un vídeo que antes podía parecer una evidencia clara ahora necesita un análisis técnico que permita determinar si ha sido manipulado, cuándo se creó, quién lo grabó y si el archivo conserva su integridad.
El experto ha resumido esta inquietud al señalar que, si ejerciera como perito judicial, estaría preocupado por la posibilidad de encontrar vídeos alterados con inteligencia artificial en procedimientos judiciales. La advertencia apunta a una transformación profunda de la investigación digital: ya no basta con verificar que un archivo existe, también hay que demostrar que refleja un hecho real.
Qué elementos deben analizar los peritos
La autenticidad de un vídeo puede requerir el estudio de los metadatos, la compresión de la imagen, las pistas de audio, los cambios de iluminación y las posibles diferencias entre fotogramas. También resulta relevante comprobar la cadena de custodia, es decir, quién obtuvo el archivo, cómo se almacenó y qué modificaciones sufrió desde su captura.
- Verificar el archivo original y evitar trabajar únicamente con copias descargadas de redes sociales.
- Analizar si existen cortes, cambios de formato o alteraciones en la pista de audio.
- Comparar el vídeo con otras grabaciones, imágenes o testimonios del mismo hecho.
- Documentar cada paso del proceso para que el análisis pueda ser revisado en sede judicial.
Las herramientas de detección de contenido generado por IA pueden ayudar, pero no ofrecen una garantía absoluta. Los sistemas de generación y edición evolucionan con rapidez, mientras que los métodos de verificación deben adaptarse continuamente a nuevas técnicas de falsificación.
Más transparencia para las plataformas
La advertencia sobre TikTok reabre además el debate sobre la transparencia de los algoritmos. Las plataformas suelen explicar de forma general cómo funcionan sus recomendaciones, pero ofrecen menos información sobre los criterios concretos que aplican en cada caso y sobre la rapidez con la que retiran contenidos denunciados.
Para mejorar la protección de los usuarios, especialmente de los menores, sería necesario reforzar la moderación humana, facilitar canales de denuncia eficaces y publicar datos verificables sobre la retirada de material ilegal. También resulta esencial informar con claridad sobre por qué se recomienda un vídeo y permitir que el usuario limite determinados temas.
El desafío combina tecnología, regulación y educación digital. Las redes sociales deben impedir que sus sistemas amplifiquen contenidos dañinos, mientras que investigadores, jueces y cuerpos policiales necesitan herramientas fiables para verificar el material que circula por internet.
La inteligencia artificial puede acelerar la creación de contenidos falsos, pero también ofrecer recursos para identificarlos. El resultado dependerá de que las empresas tecnológicas asuman responsabilidades, de que los procedimientos judiciales actualicen sus métodos y de que la seguridad de las personas prevalezca sobre la retención de usuarios.
