OpenAI reconoce que algunas conversaciones de ChatGPT pueden pasar por revisión humana
Las conversaciones mantenidas con ChatGPT no siempre son analizadas únicamente por sistemas automáticos. OpenAI recurre también a revisores humanos para evaluar la calidad de las respuestas y mejorar sus modelos de inteligencia artificial. Aunque los datos se someten a filtros de privacidad, la propia compañía admite que estos mecanismos pueden fallar y dejar expuesta información personal o sensible.
El sistema, identificado internamente como Project Lily, implica a cientos de contratistas que revisan fragmentos o conversaciones completas de usuarios. El objetivo es comprobar si las respuestas del chatbot son útiles, precisas, naturales y adecuadas para cada petición. En la práctica, esto significa que una persona puede leer lo que un usuario ha escrito a ChatGPT, aunque no tenga acceso directo a su nombre o a otros identificadores evidentes.
Qué información pueden encontrar los revisores
Las conversaciones con un chatbot pueden incluir muchos más datos personales de los que parecen a simple vista. Los usuarios suelen pedir ayuda para redactar documentos, interpretar síntomas, resolver problemas legales, organizar sus finanzas o tomar decisiones relacionadas con su trabajo y sus relaciones personales.
El anonimizado elimina o sustituye determinados elementos, como el nombre de usuario, el correo electrónico o algunos identificadores directos. Sin embargo, eso no garantiza que la persona no pueda ser reconocida. Una combinación de fechas, lugares, profesiones, diagnósticos o circunstancias familiares puede revelar la identidad de alguien, incluso aunque se hayan borrado sus datos más visibles.
Además, la eliminación automática de información personal depende de herramientas de procesamiento del lenguaje natural. Estos sistemas intentan detectar nombres, teléfonos, direcciones o números de identificación dentro de un texto, pero pueden no entender correctamente el contexto. Una referencia indirecta o un dato escrito de forma poco habitual puede superar el filtro.
Cómo funciona la revisión de las respuestas
Los contratistas siguen unas instrucciones diseñadas para que las evaluaciones sean comparables. Primero leen la petición original y redactan un breve resumen sobre la intención del usuario. Después analizan varias respuestas generadas para ese mismo prompt, es decir, la instrucción que se introduce en el chatbot.
El revisor debe señalar al menos tres fragmentos concretos de cada respuesta y explicar qué funciona y qué debería corregirse. No solo se valora si la información es correcta. También se examinan el tono, la claridad, la estructura, la utilidad práctica y la adecuación al contexto.
Por ejemplo, una respuesta puede ser técnicamente válida, pero resultar demasiado extensa, utilizar un lenguaje poco natural o incluir emojis sin relación con la petición. Estos fallos se consideran señales de que el modelo no ha interpretado bien las expectativas del usuario.
Finalmente, cada respuesta recibe una puntuación del 1 al 7. La nota más baja corresponde a una respuesta inutilizable, mientras que la más alta indica que apenas necesita mejoras. Estas valoraciones sirven para entrenar y ajustar los sistemas de IA.
La revisión humana es una práctica habitual, pero debe comunicarse con claridad
La participación de personas en el control de calidad no es exclusiva de OpenAI. Las empresas que desarrollan modelos de lenguaje utilizan revisores para detectar errores, sesgos y respuestas peligrosas. Este proceso ayuda a crear sistemas más seguros porque una máquina puede medir determinados patrones, pero no siempre comprende si una respuesta es verdaderamente útil o apropiada.
El problema está en la transparencia. La política de privacidad de OpenAI contempla el uso de datos personales para mejorar sus servicios, pero muchos usuarios no interpretan esa cláusula como una advertencia de que sus conversaciones pueden ser leídas por trabajadores externos o contratistas.
La diferencia es importante. No es lo mismo que una conversación sea procesada automáticamente por un algoritmo que pueda acceder a ella una persona capaz de leer el contexto completo. Incluso cuando existen medidas de protección, el usuario debería recibir una explicación clara sobre quién puede revisar sus datos, durante cuánto tiempo y con qué finalidad.
Cómo impedir que las conversaciones futuras se utilicen para mejorar ChatGPT
ChatGPT permite desactivar el uso de nuevas conversaciones para el entrenamiento y la mejora de los modelos desde los controles de datos. La denominación exacta puede variar según la versión de la aplicación, pero normalmente el ajuste aparece dentro de Configuración, en el apartado de Controles de datos, bajo una opción similar a Mejorar el modelo para todos.
- Abre el menú de configuración de ChatGPT.
- Accede a la sección de controles de datos o privacidad.
- Desactiva la opción que permite utilizar las conversaciones para mejorar el modelo.
- Comprueba que el cambio queda guardado antes de iniciar nuevas conversaciones.
Este ajuste no elimina automáticamente el historial anterior ni impide que una conversación ya seleccionada para revisión haya sido procesada. Su efecto se aplica, principalmente, a las conversaciones futuras. Para asuntos especialmente delicados, conviene evitar nombres completos, direcciones, números de cuenta, historiales médicos identificables y cualquier otro dato que permita vincular el texto con una persona concreta.
También es recomendable revisar las opciones de chats temporales cuando estén disponibles y consultar periódicamente la política de privacidad del servicio. Los asistentes de IA pueden ser útiles para muchas tareas, pero no deben tratarse como espacios completamente privados por defecto.
