Anthropic marcará de forma invisible textos y fotos generados por IA, causando controversia entre sus usuarios
Anthropic, la empresa responsable de Claude y otros modelos de inteligencia artificial, ha dado un paso controvertido al anunciar que marcará de forma invisible todos los textos y fotos generados por IA. A partir del 2 de agosto, los nuevos modelos de Claude en la Unión Europea incorporarán marcas invisibles en el texto generado, extendiéndose a nivel mundial en todas las aplicaciones de la empresa, incluyendo su API, Claude Code y servicios en la nube.
Esta decisión ha generado descontento entre algunos usuarios, quienes han expresado sus críticas en redes sociales. El principal problema radica en que la firma digital no diferencia si un texto ha sido completamente generado por Claude o simplemente ha sido corregido por la IA, lo que ha generado confusión y malestar entre la comunidad.
La documentación de Anthropic aclara que la presencia de una marca invisible no garantiza que un texto haya sido generado por IA, ya que intervenciones humanas como correcciones ortográficas, traducciones o reformateos pueden eliminar dicha marca. Del mismo modo, la ausencia de marcas tampoco confirma la autoría humana, ya que ciertas acciones pueden hacer que estas marcas desaparezcan.
Si bien este sistema de marcado automático puede ser vulnerable a falsificaciones por parte de usuarios informados, representa un avance significativo en la identificación de textos generados por inteligencia artificial. Aunque aún existen dudas sobre su precisión y fiabilidad, es un paso importante para detectar contenidos generados por IA en diversas industrias y ámbitos profesionales, como textos académicos, el derecho, creadores de contenido, la prensa y otros sectores.
Esta medida, aunque genera controversia, marca un hito en la lucha contra el contenido de baja calidad producido por IA, conocido como ‘slop’, y está destinada a tener un impacto positivo en la calidad y autenticidad de los contenidos en línea. A pesar de las críticas iniciales, es probable que esta tecnología evolucione y se perfeccione en el futuro, tanto por parte de Anthropic como de otros actores importantes en el campo de la inteligencia artificial.
