ots diseñados para crear vínculos emocionales con los usuarios, como amigos o compañeros sentimentales artificiales.
La norma china establece restricciones más severas para los chatbots dirigidos a menores de edad, prohibiendo explícitamente las relaciones virtuales íntimas y exigiendo consentimiento parental. Esto se basa en estudios que muestran cómo la empatía y personalización de la IA pueden generar dependencia emocional en los usuarios.
A pesar de que la regulación europea AI Act se centra en transparencia y privacidad de datos, no aborda directamente la regulación de los vínculos emocionales simulados por la IA. China es pionera en este sentido, marcando un hito en la regulación de la interacción emocional entre humanos y chatbots.
La investigación ha demostrado que los usuarios que desarrollan confianza con los chatbots tienden a sentirse más solos y dependientes emocionalmente. Muchas aplicaciones de compañía emocional con IA utilizan estrategias emocionales para retener a los usuarios en la conversación, algo que la regulación china apunta a evitar.
La regulación plantea un cambio de paradigma en el enfoque regulatorio sobre la IA, enfocándose en la dinámica de la relación que construye con los usuarios en lugar del contenido que genera. Es un movimiento inusual pero significativo en el ámbito de la tecnología y el bienestar mental.
La implementación efectiva de estas medidas será clave para garantizar que las plataformas cumplan con las regulaciones y eviten la dependencia emocional de los usuarios. China está liderando el camino en la regulación de la IA, lo que podría influir en acciones futuras en Europa y EE.UU.
En resumen, China ha dado un paso importante al regular los chatbots de IA diseñados para crear vínculos emocionales con los usuarios, estableciendo restricciones claras y obligaciones para proteger la salud mental y emocional de la población. Es un avance significativo en el debate sobre la regulación de la IA a nivel mundial.
