Una red de 400 aplicaciones y webs camufla generadores de deepfakes sexuales bajo servicios de IA
Lo que aparenta ser una aplicación para crear un retrato de una mascota puede esconder una herramienta capaz de generar imágenes sexuales falsas. Una investigación conjunta de especialistas en seguridad y un medio de información tecnológica ha destapado una red global formada por alrededor de 400 aplicaciones y páginas web que utilizan servicios aparentemente inocentes como fachada para ofrecer contenidos explícitos creados con inteligencia artificial.
El hallazgo pone el foco en un problema que va más allá de las imágenes generadas por IA: la facilidad con la que determinadas plataformas pueden ocultar su verdadera finalidad, atraer a usuarios mediante aplicaciones convencionales y transformar fotografías reales en contenidos sexuales sin consentimiento.
Aplicaciones con una apariencia inofensiva
La red identificada emplearía reclamos habituales en el ecosistema de la inteligencia artificial, como filtros fotográficos, avatares personalizados, editores de imágenes o generadores de retratos de animales. En apariencia, estos servicios no tendrían relación con la creación de material sexual. Sin embargo, tras registrarse o acceder a determinadas funciones, el usuario podría encontrar herramientas diseñadas para manipular fotografías de personas.
La estrategia se apoya en una presentación aparentemente normal y en nombres que no siempre revelan el propósito real del servicio. Esta táctica dificulta la detección por parte de los usuarios y también complica el trabajo de las tiendas de aplicaciones, los proveedores de alojamiento y las plataformas publicitarias.
El problema no se limita a una aplicación concreta. La investigación apunta a una infraestructura coordinada y distribuida por distintos países, con cientos de dominios y servicios que compartirían patrones similares. La cifra aproximada de 400 aplicaciones y webs da una idea de la escala del fenómeno.
El auge de los deepfakes sexuales
Los deepfakes sexuales son contenidos manipulados o generados mediante inteligencia artificial para mostrar a una persona en situaciones íntimas que nunca han ocurrido. En muchos casos se parte de una fotografía pública, tomada de redes sociales, perfiles profesionales o servicios de mensajería, y se combina con modelos capaces de producir imágenes falsas cada vez más convincentes.
La tecnología puede utilizarse contra cualquier persona, pero las mujeres y los menores se encuentran entre los colectivos más expuestos a campañas de acoso, humillación y extorsión. La difusión de estos contenidos puede causar daños personales, familiares y laborales incluso cuando la imagen es claramente falsa para un observador experto.
Además, algunas herramientas pueden funcionar con instrucciones muy sencillas. Esto reduce la barrera técnica de entrada y permite que usuarios sin conocimientos avanzados de edición creen material manipulado a partir de una única imagen. La disponibilidad de estos servicios convierte el abuso en un riesgo accesible y difícil de controlar.
Una amenaza para la privacidad y el consentimiento
El elemento central del problema es la ausencia de consentimiento. Una persona puede aparecer en un contenido sexual generado por IA sin haber posado para él, sin haber autorizado su creación y sin conocer siquiera que su fotografía se está utilizando.
También existe un riesgo añadido cuando el usuario sube imágenes a estas plataformas. No siempre resulta sencillo saber quién gestiona el servicio, dónde se almacenan los archivos, durante cuánto tiempo permanecen disponibles o si se utilizan para entrenar otros sistemas. Una aplicación que promete crear un retrato puede terminar recopilando fotografías personales y datos asociados.
Por este motivo, los especialistas recomiendan extremar la precaución antes de subir imágenes a herramientas de inteligencia artificial poco conocidas. La presencia de una aplicación en una tienda oficial tampoco garantiza por sí sola que el servicio sea transparente o que sus prácticas de tratamiento de datos sean adecuadas.
Cómo identificar servicios potencialmente peligrosos
- Revisar quién desarrolla la aplicación y si ofrece una identidad empresarial verificable.
- Leer la política de privacidad antes de subir fotografías personales.
- Desconfiar de servicios que prometen resultados extremos, inmediatos o gratuitos sin explicar cómo funcionan.
- Comprobar qué permisos solicita la aplicación y si son coherentes con su finalidad.
- Evitar introducir imágenes de menores o fotografías que permitan identificar fácilmente a otras personas.
- Buscar información independiente sobre el servicio y prestar atención a las reseñas repetidas o sospechosas.
Las plataformas tecnológicas afrontan ahora el reto de detectar no solo las aplicaciones que distribuyen directamente este tipo de contenido, sino también las que actúan como puertas de entrada. El uso de nombres genéricos, dominios que cambian con frecuencia y servicios replicados puede dificultar la retirada de una herramienta antes de que reaparezca bajo otra marca.
Un problema que exige respuestas coordinadas
La existencia de una red global de esta magnitud demuestra que los deepfakes sexuales ya no son una amenaza experimental ni limitada a usuarios con conocimientos técnicos. La combinación de modelos de IA, servicios automatizados y campañas de distribución permite crear un ecosistema comercial alrededor de contenidos producidos sin autorización.
La respuesta requiere cooperación entre investigadores, empresas tecnológicas, fuerzas de seguridad y organismos reguladores. También resulta fundamental que las víctimas puedan solicitar la retirada rápida de las imágenes, recibir asesoramiento y denunciar sin tener que demostrar que la manipulación es técnicamente sofisticada.
Mientras estas redes continúan adaptándose, la recomendación para los usuarios es sencilla: tratar cualquier herramienta de IA que solicite fotografías como un servicio que debe ser verificado antes de utilizarse. Una aplicación que parece diseñada para retratar a una mascota puede ocultar mucho más de lo que muestra en su pantalla inicial.
