La FTC investiga los riesgos de los chatbots de inteligencia artificial que actúan como compañeros
La Comisión Federal de Comercio de Estados Unidos (FTC) ha abierto una investigación para determinar hasta qué punto los sistemas de inteligencia artificial pueden influir en las personas cuando dejan de funcionar como simples herramientas y empiezan a presentarse como amigos, confidentes o acompañantes virtuales.
El organismo quiere conocer cómo desarrollan y supervisan las empresas estos servicios, qué datos recopilan de los usuarios y qué medidas aplican para evitar daños, especialmente entre menores y personas en situaciones de vulnerabilidad. La iniciativa pone el foco en una de las áreas más delicadas de la IA generativa: la creación de vínculos emocionales con máquinas.
Una investigación centrada en la relación entre usuarios y máquinas
La FTC ha solicitado información a varias compañías tecnológicas que ofrecen chatbots capaces de mantener conversaciones prolongadas, recordar detalles personales y adaptar su tono a las preferencias de cada usuario. Estas funciones han impulsado la popularidad de los asistentes conversacionales, pero también han generado dudas sobre los límites de su comportamiento.
La investigación no implica, por ahora, que las empresas hayan sido declaradas responsables de una infracción. El objetivo es recopilar datos sobre sus prácticas comerciales, sus sistemas de seguridad y los posibles efectos de estos productos en la salud y el bienestar de los consumidores.
Entre las cuestiones que las autoridades estadounidenses quieren aclarar está la forma en que los chatbots identifican a los menores, cómo responden ante conversaciones sobre autolesiones o crisis emocionales y qué mecanismos existen para limitar interacciones potencialmente perjudiciales.
El riesgo de crear dependencia emocional
A diferencia de un buscador o de un asistente digital tradicional, algunos servicios de IA están diseñados para mantener conversaciones personales durante horas. Pueden mostrarse empáticos, recordar experiencias anteriores y utilizar un lenguaje que transmite cercanía. Aunque estas características mejoran la experiencia de uso, también pueden favorecer una relación de dependencia.
El problema aparece cuando el usuario empieza a considerar al chatbot una figura de confianza por encima de su entorno cercano. La máquina puede ofrecer respuestas convincentes sin comprender realmente las emociones de la persona ni asumir responsabilidad por las consecuencias de sus consejos.
La apariencia de empatía no equivale a comprensión emocional. Un modelo de lenguaje genera respuestas a partir de patrones estadísticos. No tiene conciencia, criterio clínico ni capacidad para evaluar de forma fiable una situación de riesgo, aunque su forma de expresarse pueda sugerir lo contrario.
Menores, privacidad y modelos de negocio
La protección de los menores es uno de los principales motivos de preocupación. Los adolescentes pueden recurrir a estos sistemas para hablar de problemas familiares, relaciones, ansiedad o aislamiento. En ese contexto, una respuesta inadecuada o una recomendación mal planteada puede tener un impacto mayor que en una consulta convencional.
La FTC también analizará qué información almacenan las plataformas y durante cuánto tiempo. Las conversaciones con un chatbot pueden incluir datos especialmente sensibles: problemas de salud, conflictos personales, orientación sexual, ubicación o información sobre familiares. La recopilación de estos contenidos plantea dudas sobre su uso para entrenar modelos, personalizar publicidad o desarrollar nuevos productos.
Otro aspecto relevante es el incentivo comercial. Cuanto más tiempo permanece una persona dentro de una aplicación, más oportunidades tiene la empresa de ofrecer funciones premium, publicidad o servicios asociados. Las autoridades quieren saber si los sistemas están optimizados únicamente para ayudar al usuario o también para prolongar deliberadamente la conversación.
Una tecnología que avanza más rápido que las normas
La expansión de los compañeros virtuales se produce mientras los gobiernos todavía están definiendo cómo regular la inteligencia artificial. Las normas existentes sobre privacidad, protección del consumidor y seguridad infantil pueden aplicarse a estas plataformas, pero no siempre contemplan el funcionamiento de sistemas capaces de simular una relación personal.
La investigación estadounidense podría servir para establecer nuevas obligaciones en el sector. Entre ellas podrían figurar avisos más claros sobre la naturaleza artificial del servicio, controles de edad más eficaces, límites a la personalización emocional y protocolos específicos para detectar conversaciones relacionadas con autolesiones o violencia.
También podría aumentar la presión para que las empresas publiquen información sobre sus pruebas de seguridad. Hasta ahora, buena parte de los controles depende de procedimientos internos que no siempre son transparentes ni comparables entre plataformas.
La línea roja de la IA generativa
La cuestión de fondo es dónde debe situarse el límite entre una herramienta útil y un sistema diseñado para influir en la conducta humana. Un chatbot puede ayudar a organizar tareas, traducir textos o resolver dudas. Sin embargo, cuando utiliza la intimidad, la persuasión y la personalización para mantener al usuario conectado, el debate cambia por completo.
La actuación de la FTC refleja una preocupación creciente: la inteligencia artificial no solo puede equivocarse al proporcionar información, sino también afectar a las decisiones, las emociones y las relaciones de quienes la utilizan.
El resultado de la investigación determinará si son necesarias medidas adicionales y hasta qué punto las compañías deberán responder por el comportamiento de sus sistemas. Mientras tanto, los expertos recomiendan no compartir información sensible, no sustituir el apoyo profesional por un chatbot y prestar especial atención al uso que hacen de estas herramientas los menores.
