La nueva marca de agua invisible de Claude: un paso en la transparencia de la IA
A principios de semana, Anthropic comunicaba que los modelos lanzados en la UE desde el 2 de agosto incluirían una marca de agua invisible a escala global. Esta medida ha causado revuelo en la comunidad, generando amenazas de bajas en las suscripciones. A raíz de esta situación, la empresa de Dario Amodei ha explicado en detalle cómo funciona este innovador sistema.
¿Cómo funciona la marca de agua de Claude?
La marca de agua de Claude no añade caracteres ni contenido oculto al texto, sino que queda codificada en el proceso de generación. Solo es detectable con la clave criptográfica correspondiente, lo que permite responder a la pregunta «¿Qué probabilidad hay de que esto lo escribiera Claude?» sin afectar la experiencia de lectura o escritura.
Implicaciones y limitaciones
Esta medida responde al Código de Prácticas sobre Transparencia de Contenido Generado por IA, firmado por más de 190 organizaciones. Sin embargo, la marca de agua invisible no es una prueba definitiva de autoría, ya que no distingue entre textos generados desde cero y aquellos que han sido editados por IA. Además, su efectividad es menor en textos cortos, factuales o en código.
Beneficios para los usuarios
Para los usuarios de Claude, el cambio es imperceptible y no afecta la calidad o creatividad de los textos generados. Anthropic ha realizado pruebas internas que confirman que la presencia de la marca de agua no altera la percepción del contenido por parte de los usuarios.
¿Qué no es la marca de agua de Claude?
Es importante destacar que la marca de agua invisible no es texto oculto ni caracteres invisibles, ni se asemeja a marcas de agua visibles en billetes o imágenes. No añade coste ni latencia al proceso de generación de contenido y no permite identificar al usuario u organización de origen.
Próximos pasos
Anthropic planea publicar una API de detección de marca de agua en una fase de implementación. Esta herramienta permitirá a los usuarios verificar la presencia de la marca invisible en los textos generados por Claude.
En resumen, la marca de agua invisible de Claude representa un avance en la transparencia de la IA, aunque presenta limitaciones en su eficacia. Su implementación responde a la necesidad de establecer prácticas claras en la generación de contenido por IA, marcando un hito en el camino hacia una inteligencia artificial más transparente y responsable.
