Detectar si una imagen está hecha con IA: el nuevo desafío en el mundo digital
Detectar imágenes generadas por inteligencia artificial se ha convertido en un juego del gato y el ratón en el mundo digital. Anteriormente, nos fijábamos en la cantidad de dedos representados en las manos de las personas en las imágenes como indicador de IA. Sin embargo, con los modelos de imagen y vídeo cada vez más precisos, esta tarea se ha vuelto mucho más compleja.
A pesar de la evolución de los modelos de IA, todavía existen formas de detectar si una imagen ha sido generada por esta tecnología. La clave ahora reside en prestar atención a la geometría, las sombras y la perspectiva, es decir, el dibujo técnico.
El experto detrás de la detección de imágenes generadas por IA
Hany Farid, especialista de la Universidad de California en Berkeley, es uno de los mayores expertos mundiales en análisis forense de imágenes y se ha dedicado durante más de dos décadas a determinar la autenticidad de fotos y vídeos. Farid describe la proliferación de imágenes falsas como una «guerra global por la verdad», con impacto en individuos, instituciones y democracias.
La evolución de las técnicas de detección
Según Farid, una de las primeras técnicas para detectar imágenes falsas se basaba en el ruido característico de las cámaras reales. Sin embargo, los generadores de IA han aprendido a imitar estas imperfecciones, lo que dificulta su detección a nivel de píxeles.
Actualmente, la IA «no sabe de física ni de geometría», lo que lleva a la necesidad de aplicar técnicas de dibujo técnico para identificar anomalías en las imágenes generadas por IA. Farid subraya la importancia de acumular pistas para detectar la falsedad de una imagen, ya que ninguna técnica individual es infalible.
Los desafíos y las soluciones futuras
Si bien Farid y su equipo desarrollan herramientas forenses para ayudar en la detección de imágenes falsas, los investigadores advierten que las técnicas actuales tienen una vida útil corta debido a la rápida evolución de la IA.
A pesar de los desafíos, existen iniciativas internacionales, como el estándar de «credenciales de contenido», que buscan autenticar el origen de las imágenes al momento de su creación. Estas soluciones son parte del esfuerzo por combatir la proliferación de imágenes falsas en el entorno digital y proteger la veracidad de la información.
En última instancia, la detección de imágenes generadas por IA se ha convertido en un desafío constante en el mundo digital, con implicaciones significativas para la confianza en la información y la lucha contra la desinformación.
