China regula la IA personalizada para proteger a los usuarios
China ha tomado una decisión importante en el mundo de la inteligencia artificial. La regulación de la IA diseñada para parecer una persona ya es una realidad, con empresas como Doubao (ByteDance) y Qwen (Alibaba) desactivando sus agentes de IA personalizados antes de que la normativa entre en vigor.
El apagón de la IA antropomórifica ya tiene fecha. Doubao y Qwen han anunciado la desactivación de sus chatbots personalizados, siguiendo las nuevas Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA, publicadas recientemente por el gobierno chino.
¿En qué consiste la regulación?
La normativa marca límites precisos en el ámbito de la IA. Se enfoca en los sistemas que simulan rasgos humanos para proporcionar una interacción emocional sostenida, excluyendo los asistentes para tareas específicas como el trabajo, estudio o atención al cliente.
Lo que se busca evitar es que la IA pueda simular el comportamiento humano, creando relaciones artificiales que puedan llevar a dependencia emocional, adicción o manipulación por parte de los usuarios.
Protección para los usuarios vulnerables
La regulación china presta especial atención a personas vulnerables, como menores de edad o adultos mayores. Se prohíbe que los chatbots ofrezcan relaciones virtuales íntimas, como parejas o familiares artificiales, y se exige consentimiento paterno en casos de menores. También se establecen medidas para proteger a los adultos mayores de posibles situaciones de soledad o dependencia emocional.
La IA como herramienta, no como sustituto
La nueva normativa destaca la importancia de que la IA se mantenga como una herramienta y no como un sustituto de las relaciones personales. Se busca evitar que los usuarios desarrollen vínculos emocionales excesivos con chatbots, fomentando un uso saludable y responsable de esta tecnología.
Esta regulación marca un hito en el control de la IA no por su potencia, sino por su capacidad para establecer relaciones personales con los usuarios. Un paso importante que probablemente genere discusiones en otros países y regiones del mundo.
