OpenAI prepara una marca invisible para identificar los textos generados por ChatGPT en Europa
OpenAI prepara el despliegue de textGrain, un sistema capaz de introducir una huella estadística en los textos generados por ChatGPT. La tecnología no añadirá caracteres ocultos, espacios especiales ni ninguna señal visible para el usuario, sino que seleccionará determinadas palabras siguiendo un patrón que podrá analizarse posteriormente.
La compañía estadounidense probará inicialmente este mecanismo en la Unión Europea, en un movimiento vinculado a las nuevas obligaciones de transparencia para los contenidos creados o modificados mediante inteligencia artificial. La medida sigue el camino adoptado por Anthropic, cuyos modelos disponibles en Europa desde el pasado 2 de agosto incorporan sistemas similares de identificación.
Una marca basada en la elección de palabras
TextGrain no funciona como una marca de agua tradicional. En lugar de insertar un elemento visible o una secuencia de caracteres imperceptible, el sistema modifica de forma estadística la selección de términos que realiza el modelo al redactar una respuesta.
Los modelos de lenguaje generan texto calculando qué palabra tiene más probabilidades de aparecer después de cada fragmento. TextGrain aprovecha ese proceso para orientar ligeramente la elección de palabras y crear un patrón reconocible por una herramienta de detección.
Para una persona, el resultado debería parecer un texto normal. Sin embargo, un sistema preparado para buscar esa distribución concreta de palabras podría estimar si el contenido procede de un modelo compatible con la tecnología.
El despliegue comenzará en la Unión Europea
OpenAI no activará inicialmente textGrain en todos los países donde están disponibles sus servicios. La empresa utilizará la Unión Europea como entorno de prueba en condiciones reales, aunque no descarta ampliar el sistema a otras regiones en el futuro.
La tecnología también podrá activarse mediante la API de OpenAI. Esto permitirá que empresas y desarrolladores la incorporen de forma voluntaria en determinados modelos, con independencia del país desde el que utilicen el servicio.
El objetivo principal es facilitar el cumplimiento de las normas europeas que exigen informar sobre el uso de inteligencia artificial en la creación de determinados contenidos. La identificación no pretende revelar públicamente quién ha escrito un texto, sino aportar una señal técnica que permita analizar su posible origen.
La huella puede desaparecer con una edición mínima
OpenAI reconoce que el sistema no es infalible. La huella estadística puede debilitarse cuando una persona revisa el contenido y sustituye palabras por sinónimos, cambia el orden de las frases o reescribe parte del texto.
En las pruebas realizadas por la compañía, la capacidad de detección descendió del 92% al 66% cuando se sustituyó el 10% de las palabras de un texto de 400 tokens. Un token es una unidad de texto que los modelos procesan para generar sus respuestas; puede corresponder a una palabra completa, parte de ella o un signo de puntuación.
Cuando se reemplazó el 25% de las palabras, la detección cayó hasta el 17%. Estos resultados muestran que textGrain puede ser útil para identificar textos generados directamente por un modelo, pero tiene muchas más dificultades cuando existe una intervención humana relevante.
Los textos cortos son más difíciles de analizar
La longitud del contenido también influye. En un texto breve hay menos palabras disponibles para detectar el patrón estadístico, por lo que el resultado puede ser menos fiable. En esos casos, un contenido generado por IA podría clasificarse como humano.
Durante las pruebas, y con una tasa objetivo de falsos positivos del 1%, el detector identificó correctamente el 80% de los textos de 200 tokens. En textos de 400 tokens, la tasa de aciertos aumentó hasta el 95%.
Un falso positivo se produce cuando una herramienta atribuye a la inteligencia artificial un texto que en realidad ha sido escrito por una persona. Este riesgo resulta especialmente relevante en entornos educativos, laborales o periodísticos, donde una detección equivocada podría tener consecuencias.
La tecnología no identifica al autor ni la conversación
Incluso cuando la detección es correcta, textGrain no permite saber qué parte del contenido ha sido creada por la IA y cuál corresponde al trabajo humano. Tampoco revela la identidad del usuario, la cuenta utilizada, las instrucciones introducidas o la conversación mantenida con el chatbot.
Por tanto, la huella estadística debe entenderse como un indicador técnico, no como una prueba absoluta de autoría. Un texto puede haber sido generado por un modelo y después editado de manera suficiente para dificultar su identificación, mientras que otros contenidos humanos pueden activar un resultado erróneo.
Un sistema diferente de las marcas para imágenes y audio
OpenAI ya emplea estándares como C2PA para añadir información de procedencia a determinados contenidos digitales. C2PA es un protocolo que permite registrar datos sobre el origen y las modificaciones de un archivo.
La compañía también utiliza SynthID para marcar imágenes y audio generados o procesados con sus modelos. En el caso del texto, sin embargo, el sistema debe afrontar un problema adicional: las palabras pueden editarse, traducirse o reorganizarse con mucha facilidad.
TextGrain representa así un primer intento de adaptar la identificación de contenidos generados por IA al lenguaje escrito. Su eficacia dependerá de la longitud del texto, del grado de edición humana y de la precisión de las herramientas utilizadas para detectar la huella.
