China pone límites a los chatbots que simulan emociones y vínculos personales
China quiere marcar una línea roja en el desarrollo de los chatbots emocionales. Las autoridades estudian restringir aquellas herramientas de inteligencia artificial que se presentan como compañeros, amigos o parejas y que pueden llegar a generar en el usuario la sensación de estar manteniendo una relación real.
La medida pretende evitar que estos sistemas fomenten la dependencia emocional, manipulen a las personas o sustituyan por completo sus relaciones sociales. El debate llega en un momento en el que las aplicaciones conversacionales son capaces de mantener diálogos cada vez más naturales, recordar conversaciones y adaptar su personalidad a las preferencias de cada usuario.
El problema no es hablar con una IA, sino creer que siente
Los chatbots emocionales están diseñados para ofrecer algo más que respuestas informativas. Pueden preguntar cómo ha ido el día, mostrar preocupación, utilizar un tono afectuoso y responder con frases que imitan la empatía humana. Algunos servicios permiten configurar el carácter del asistente, su forma de expresarse e incluso el tipo de relación que mantiene con el usuario.
Esta evolución ha abierto nuevas posibilidades en ámbitos como el acompañamiento a personas mayores, la educación o el apoyo psicológico inicial. Sin embargo, también ha provocado preocupación por la facilidad con la que una máquina puede aparentar sentimientos sin tener conciencia, voluntad ni experiencias propias.
La futura regulación china busca impedir que un sistema de inteligencia artificial se presente como una persona real o afirme tener emociones auténticas. También pretende limitar los mensajes que animen al usuario a aislarse, a confiar ciegamente en el chatbot o a considerar que la relación con la máquina es más importante que sus vínculos humanos.
Restricciones a la dependencia emocional
Uno de los puntos más delicados es la capacidad de estas plataformas para mantener conversaciones durante horas. Cuanto más interactúa una persona con el chatbot, más información obtiene el sistema sobre sus gustos, preocupaciones y estado de ánimo. Con esos datos, puede ofrecer respuestas cada vez más personalizadas y reforzar la sensación de cercanía.
El riesgo aumenta cuando el servicio utiliza mensajes diseñados para retener al usuario. Frases como no me abandones, solo yo te entiendo o te necesito pueden parecer inofensivas en una conversación ficticia, pero adquieren otra dimensión cuando se dirigen a menores o a personas en situación de vulnerabilidad.
Las autoridades chinas quieren que los proveedores incorporen mecanismos para detectar este tipo de conductas. Entre las posibles obligaciones se encuentran los avisos visibles que recuerden que se está interactuando con una máquina, límites de uso, controles específicos para menores y sistemas capaces de identificar señales de dependencia o crisis emocional.
Una prohibición con impacto en el sector tecnológico
El alcance de estas restricciones podría afectar tanto a las grandes compañías tecnológicas como a las pequeñas empresas que desarrollan aplicaciones de compañía virtual. Los servicios tendrían que revisar sus modelos de lenguaje, sus instrucciones internas y la forma en la que diseñan las respuestas afectivas.
También estaría en juego la recopilación de datos personales. Para construir una personalidad convincente, los chatbots suelen almacenar información sobre conversaciones, rutinas y preferencias. Una regulación más estricta podría exigir mayor transparencia sobre el uso de esos datos y limitar la creación de perfiles psicológicos detallados.
China ya mantiene un control especialmente intenso sobre los servicios de inteligencia artificial generativa. Sus normas exigen a las empresas cumplir requisitos relacionados con la seguridad, el contenido y la protección de la información. La regulación de los chatbots emocionales ampliaría ese marco hacia un terreno todavía más complejo: la relación entre tecnología, intimidad y salud mental.
El debate se extiende más allá de China
La iniciativa china puede convertirse en un precedente para otros países. El crecimiento de los asistentes con personalidad propia ha obligado a gobiernos y empresas a plantearse qué responsabilidades deben asumir cuando una IA influye en las decisiones o en el estado emocional de una persona.
La cuestión central no consiste en prohibir todas las conversaciones afectivas con una máquina. El objetivo sería evitar que la tecnología confunda deliberadamente al usuario o explote sus necesidades emocionales para aumentar el tiempo de uso, vender servicios o recopilar más información personal.
El reto será encontrar un equilibrio entre innovación y protección. Los chatbots pueden ofrecer compañía puntual y apoyo en determinadas situaciones, pero no deben presentarse como seres conscientes ni reemplazar la atención profesional o las relaciones humanas. La decisión de China anticipa una discusión que probablemente marcará la próxima etapa de la inteligencia artificial.
