Muse, el agente de Meta que analiza las relaciones del usuario y sus contactos
El nuevo agente de inteligencia artificial de Meta está generando dudas sobre sus límites de privacidad. Muse ha sido diseñado para realizar tareas en nombre del usuario, como comprar productos, cancelar suscripciones o gestionar distintas acciones digitales. Para hacerlo, necesita acceder a una cantidad considerable de información personal.
Una investigación reciente apunta a que el sistema no solo crea un perfil detallado de cada persona que lo utiliza. También analiza a los contactos que aparecen en sus conversaciones, mensajes y correos electrónicos, aunque esos individuos no hayan dado permiso para interactuar con el agente.
Un mapa de relaciones que se actualiza cada hora
Cuando Muse comienza a trabajar, genera un dosier interno sobre el usuario y las personas que forman parte de su entorno digital. Ese documento se actualizaría aproximadamente cada hora e incluiría información obtenida de los contenidos a los que el agente tiene acceso.
La información se organiza como una especie de mapa social. Muse puede registrar cómo se conocieron dos personas, qué intereses comparten, sobre qué asuntos han hablado y cuál es la relación entre ellas. El sistema también identificaría posibles tensiones, alianzas o cambios en la forma de comunicarse.
Este análisis va más allá de recopilar datos explícitos. Un agente de IA es un sistema capaz de ejecutar acciones y tomar decisiones intermedias para completar una tarea, en lugar de limitarse a responder preguntas. Para ello, necesita interpretar el contexto y anticipar qué puede ser útil para el usuario.
En el caso de Muse, sus instrucciones incluirían detectar bromas internas, expresiones habituales y preferencias de comunicación. Por ejemplo, podría deducir que una persona responde mejor a mensajes breves enviados por la noche. También podría inferir información que el usuario nunca ha expresado directamente.
El problema de los datos de terceras personas
La principal controversia no está únicamente en la cantidad de información que Muse recopila sobre sus usuarios, sino en que ese conocimiento puede extenderse a otras personas. Cualquier contacto incluido en los chats o correos puede formar parte del perfil relacional del agente sin utilizar directamente el servicio.
Meta sostiene que el usuario decide qué información comparte con Muse y que el sistema aplica medidas para reducir la identificación de las personas. Entre ellas estaría la eliminación de nombres y otros datos identificativos antes de utilizar determinados contenidos para mejorar el funcionamiento de otros agentes.
Sin embargo, anonimizar no siempre significa eliminar por completo el riesgo. Incluso sin un nombre, la combinación de detalles, fechas, relaciones y conversaciones puede permitir reconocer a una persona. Además, cuanto más contexto conserva un sistema, más sencillo resulta reconstruir quién participa en una interacción.
La función para borrar recuerdos plantea dudas
Muse incorpora una opción para pedirle que olvide información concreta. Esta función pretende ofrecer al usuario control sobre la memoria del agente, una característica cada vez más habitual en los asistentes avanzados.
El problema es que ordenar a Muse que olvide un dato no implicaría necesariamente borrar el mensaje original en el que se compartió. La información podría dejar de aparecer en el resumen interno del agente, pero continuar visible en el chat o en el correo que la contiene.
La diferencia es importante. La memoria de un sistema de IA es una capa de información que utiliza para personalizar respuestas y acciones, mientras que el historial de una aplicación es el contenido original almacenado en el servicio. Eliminar una referencia de la primera no equivale necesariamente a borrar el contenido de la segunda.
Según los hallazgos publicados, las instrucciones internas del agente tampoco dejarían claro al usuario que determinados datos pueden seguir presentes. Esta falta de transparencia podría provocar una falsa sensación de control, especialmente entre quienes no conocen cómo se almacenan y procesan los datos en estos sistemas.
Meta defiende el diseño y prepara más protección
La compañía no ha rechazado de forma tajante las conclusiones de la investigación. Su posición es que el funcionamiento de Muse ya explica que el agente recuerda la información relevante para cada usuario, incluida la relacionada con otras personas cuando el usuario decide compartirla.
Meta también ha señalado que el sistema está pensado para aprender de la interacción con cada persona y que aplica mecanismos destinados a eliminar identificadores. Además, prepara una versión con cifrado y una clave individual para cada usuario.
Parte de la información empleada por Muse puede localizarse mediante el explorador de archivos integrado en la aplicación. Meta considera que esta accesibilidad demuestra transparencia. No obstante, el acceso requiere cierto conocimiento técnico y no está claro que la mayoría de los usuarios sea consciente de la existencia de esos archivos o de su contenido.
Los primeros conflictos con otras plataformas
Las dudas sobre Muse llegan mientras otros servicios endurecen sus defensas frente a los agentes de IA. Amazon habría bloqueado su uso para proteger determinadas operaciones y datos comerciales. También se han denunciado casos en los que el agente parecía conocer información situada en zonas del dispositivo que el usuario no esperaba que pudiera consultar.
Apple, por su parte, ha reforzado la seguridad de macOS para limitar que estas herramientas naveguen por el sistema sin una autorización clara. El objetivo es impedir que un agente pueda actuar con los mismos permisos que una persona sin informar de forma comprensible sobre cada acceso.
Muse solo está disponible por ahora en Estados Unidos, pero ya habría superado los cinco millones de descargas en menos de un mes. Las cifras de usuarios activos y de instalaciones no son equivalentes, aunque muestran el interés por los asistentes capaces de ejecutar tareas de forma autónoma.
El caso anticipa uno de los grandes debates de la era agéntica: cuánta privacidad está dispuesto a ceder el usuario a cambio de delegar tareas cotidianas. Cuanto más útil sea un agente, más información necesitará conocer. Por eso, la transparencia, el borrado real de los datos y el control sobre los permisos serán tan importantes como sus capacidades.
