TikTok debe reforzar la detección de contenido de abuso sexual infantil, según un experto
Las acusaciones relacionadas con la presencia y circulación de contenido de abuso sexual infantil en TikTok han vuelto a poner el foco sobre los sistemas de moderación de las grandes plataformas. Para Jordi Pérez Colomé, experto en tecnología, una red social con los recursos de TikTok debería ser capaz de identificar este tipo de material con más rapidez y eficacia.
Su planteamiento parte de una idea sencilla: si un periodista puede localizar determinados contenidos utilizando herramientas accesibles, una plataforma que analiza millones de publicaciones también debería poder detectarlos. La diferencia está en la capacidad tecnológica, el volumen de datos y el acceso a sistemas automatizados de búsqueda y clasificación.
La tecnología no puede limitarse a reaccionar
La moderación de contenidos suele combinar inteligencia artificial, sistemas de reconocimiento y revisiones humanas. Sin embargo, estos mecanismos no siempre actúan antes de que una publicación se comparta o alcance una amplia difusión. En los casos relacionados con la explotación sexual de menores, ese margen de reacción puede tener consecuencias especialmente graves.
Pérez Colomé considera que TikTok debe ser más exigente y aplicar formas eficientes para localizar material ilegal. No se trataría únicamente de retirar una publicación después de recibir una denuncia, sino de establecer controles capaces de detectar patrones, cuentas y archivos sospechosos antes de que lleguen a otros usuarios.
La plataforma tendría que combinar distintas capas de protección: análisis automatizado de imágenes y vídeos, revisión de metadatos, identificación de comportamientos coordinados y seguimiento de cuentas que reinciden. Ninguna herramienta es infalible por sí sola, pero la suma de varias medidas puede reducir el tiempo durante el que el contenido permanece disponible.
El reto de detectar vídeos y cuentas problemáticas
TikTok basa buena parte de su éxito en un formato de vídeo corto que facilita la publicación constante de material. Esa velocidad complica la supervisión. Cada minuto se generan nuevos contenidos, se editan publicaciones y se comparten archivos que pueden reaparecer con modificaciones para evitar los filtros automáticos.
Los responsables de las plataformas deben tener en cuenta esa capacidad de adaptación. Cuando un sistema identifica una imagen o una cuenta, quienes distribuyen contenido ilegal pueden intentar cambiar el nombre del archivo, alterar el vídeo o utilizar perfiles distintos. Por eso, los controles más eficaces no deben centrarse solo en el contenido concreto, sino también en las conexiones entre usuarios, cuentas y publicaciones.
La detección tecnológica debe ir acompañada de equipos especializados. Los algoritmos pueden señalar material potencialmente peligroso, pero las decisiones más delicadas requieren personal formado, protocolos claros y una respuesta rápida. En los casos que puedan constituir un delito, la plataforma debe preservar las pruebas y colaborar con las autoridades competentes.
Una responsabilidad que va más allá de borrar publicaciones
Retirar un vídeo no elimina automáticamente el problema. El contenido puede haber sido descargado, replicado o distribuido en otros canales. Por ese motivo, la responsabilidad de TikTok no debería medirse solo por el número de publicaciones eliminadas, sino también por la rapidez de la respuesta, la prevención y la capacidad para impedir que el material vuelva a aparecer.
La compañía también debe ofrecer vías de denuncia visibles y sencillas. Los usuarios necesitan saber cómo informar de un contenido ilegal y qué ocurre después de enviar el aviso. Un sistema poco transparente puede desincentivar las denuncias y dificultar la actuación de quienes detectan una situación de riesgo.
- Detección automática de imágenes, vídeos y patrones de actividad sospechosos.
- Revisión humana por parte de equipos especializados.
- Bloqueo de cuentas reincidentes y de redes coordinadas.
- Canales de denuncia accesibles y respuesta rápida.
- Colaboración eficaz con las autoridades y las organizaciones de protección infantil.
La presión sobre las grandes redes sociales aumenta
El debate sobre TikTok forma parte de una discusión más amplia sobre la responsabilidad de las plataformas digitales. Las redes sociales ya no son simples espacios de publicación: utilizan sistemas de recomendación que pueden ampliar de forma automática el alcance de un contenido. Esa capacidad obliga a las empresas a conocer mejor qué circula por sus servicios y cómo se distribuye.
La libertad de expresión y la protección de la privacidad son elementos importantes, pero no pueden convertirse en argumentos para retrasar la retirada de material de abuso sexual infantil. En este ámbito, la prioridad debe ser proteger a los menores, evitar la revictimización y cortar las vías de distribución.
La advertencia de Pérez Colomé resume una exigencia cada vez más extendida: las plataformas deben aplicar a la seguridad la misma capacidad de innovación que utilizan para mejorar sus productos. Si TikTok puede analizar el comportamiento de los usuarios para recomendar vídeos, también debe utilizar recursos equivalentes para identificar amenazas y contenidos ilegales.
El desafío no consiste solo en disponer de tecnología, sino en emplearla con criterios claros, supervisión independiente y resultados verificables. La confianza en las redes sociales dependerá, en buena medida, de que sus medidas de protección sean capaces de actuar antes de que el daño se multiplique.
