Pangram lanza detectores de imágenes y vídeos generados con IA, pero sus cifras exigen cautela
La startup Pangram ha presentado dos herramientas para identificar imágenes y vídeos creados total o parcialmente con inteligencia artificial. Image 1.0 analiza fotografías y genera un mapa de calor con las zonas que parecen sintéticas, mientras que Image Flash 1.0 revisa vídeos fotograma a fotograma.
La compañía asegura que sus sistemas alcanzan tasas de acierto superiores al 98 %, pero una parte relevante de esos resultados procede de pruebas diseñadas por la propia empresa. El contraste con evaluaciones académicas independientes dibuja un escenario bastante más complejo.
Detección de imágenes y vídeos desde la web, una API y Chrome
Los dos modelos están disponibles a través de la aplicación web de Pangram y de una API, una interfaz que permite a otras empresas integrar la detección en sus propios servicios. Image 1.0 también llega como extensión para Chrome, con capacidad para señalar posibles contenidos generados por IA en redes sociales, tiendas online y páginas de alquiler.
Los usuarios pueden subir vídeos a la aplicación web para que Image Flash los examine. El sistema divide el archivo en fotogramas y calcula si cada imagen presenta patrones asociados a una generación artificial, una técnica útil para localizar manipulaciones que pueden pasar desapercibidas al reproducir el vídeo completo.
Una de las mejoras anunciadas afecta a la resolución. Las herramientas ahora aceptan imágenes de hasta 256 por 256 píxeles, frente al mínimo anterior de 512 por 512. Sin embargo, Pangram advierte de que los resultados con menos de 512 píxeles tienen un nivel de confianza inferior, ya que la falta de detalle dificulta la identificación de anomalías.
Un mapa de calor para explicar el resultado
La función más visual de Image 1.0 es el mapa de calor. En lugar de limitarse a indicar si una imagen parece creada por una IA, la herramienta destaca las áreas concretas que han influido en su decisión.
Este sistema puede ayudar a detectar, por ejemplo, manos deformadas, bordes artificiales, texturas repetitivas o zonas con una iluminación incoherente. Aun así, el mapa no demuestra por sí solo que una imagen sea falsa: muestra dónde ha encontrado señales sospechosas el modelo.
Las cifras de Pangram y el problema de las pruebas internas
Pangram afirma que Image 1.0 identifica el 99,2 % de las imágenes generadas con inteligencia artificial y que solo clasifica erróneamente el 0,27 % de las fotografías reales. En el caso de Image Flash, la compañía habla de un 98,7 % de acierto en el banco de pruebas académico DF26.
La empresa también asegura haber obtenido un 99,96 % de precisión al analizar copias generadas por IA de 100 fotografías reales, creadas mediante 12 herramientas diferentes. El inconveniente es que esta evaluación fue diseñada por Pangram y no por un organismo externo, por lo que sus resultados deben interpretarse como una prueba interna.
Que una prueba sea interna no significa necesariamente que sea inválida. Sí implica que resulta más difícil comprobar si la selección de imágenes, las condiciones del experimento y los criterios de evaluación representan adecuadamente el uso real de estos detectores.
Un banco académico ofrece un resultado mucho menos claro
El principal punto de fricción aparece al comparar las cifras de Pangram con DF26, un conjunto de evaluación independiente formado por 2.691 vídeos de personas hablando a cámara. Sus autores concluyeron que tanto los seres humanos como los detectores más avanzados apenas superaban el azar al intentar distinguir los vídeos auténticos de los generados.
En ese contexto, el 98,7 % atribuido a Image Flash resulta especialmente llamativo, ya que la compañía lo sitúa muy por encima del segundo sistema clasificado. La diferencia no demuestra que el resultado sea incorrecto, pero sí plantea preguntas sobre las condiciones concretas de la prueba, el tipo de contenido analizado y la posibilidad de que los detectores funcionen mejor con determinados generadores o formatos.
El riesgo de acusar a una imagen auténtica
La precisión no consiste únicamente en encontrar contenidos falsos. También es esencial no etiquetar como artificial una imagen real, un problema conocido como falso positivo. Se produce cuando el sistema identifica IA donde no la hay.
Las consecuencias pueden ser importantes en medios de comunicación, procesos educativos, moderación de contenidos o plataformas de compraventa. Una acusación automática puede dañar la reputación de una persona o hacer que se retire material legítimo sin una revisión adicional.
La propia trayectoria del sector muestra las limitaciones actuales. El detector de texto de Pangram señaló en el pasado que un artículo de opinión de una profesora de Berkeley estaba parcialmente escrito con IA, algo que la autora negó. En otra evaluación, el detector de imágenes de Meta falló en más de la mitad de los casos cuando las fotografías habían sido recortadas.
Una herramienta necesaria, pero no un juez definitivo
La expansión de los contenidos sintéticos aumenta la necesidad de contar con señales que ayuden a identificarlos. Los anuncios falsos con famosos, las estafas de inversión y las reseñas manipuladas son algunos de los usos que hacen especialmente relevante esta tecnología.
Pangram es una startup neoyorquina conocida inicialmente por su detector de textos generados con IA. Su tecnología ya está integrada en Substack y la compañía captó en julio 9 millones de dólares, alrededor de 8 millones de euros, en una ronda liderada por Menlo Ventures.
Sin embargo, ningún detector debería utilizarse como una prueba concluyente. Los resultados pueden variar según el generador empleado, la resolución, el recorte, la compresión, la edición posterior o el tipo de imagen y vídeo.
La recomendación más prudente es combinar estas herramientas con revisión humana, metadatos, procedencia del archivo y comprobaciones adicionales. Y, sobre todo, exigir que las cifras de precisión más espectaculares sean verificadas por terceros independientes. En un ámbito donde una imagen puede influir en una compra, una denuncia o una decisión editorial, un porcentaje cercano al 100 % merece análisis, no confianza ciega.
