Bruselas quiere poner límites a los asistentes de IA que utilizan los menores
La Comisión Europea ha presentado nuevas condiciones para reducir los riesgos que afrontan los niños y adolescentes en internet. El marco incluye redes sociales, plataformas de vídeo, videojuegos online y también los asistentes de inteligencia artificial, como ChatGPT, capaces de mantener conversaciones prolongadas con sus usuarios.
La propuesta parte de una preocupación creciente: los menores no solo consumen contenidos digitales, sino que interactúan con sistemas diseñados para captar su atención, personalizar sus respuestas y prolongar el tiempo de uso. En el caso de la IA generativa, el vínculo puede ser especialmente intenso cuando el chatbot adopta el papel de amigo, tutor o confidente.
Más protección frente a los llamados amigos digitales
Bruselas reclama que los servicios de inteligencia artificial incorporen medidas específicas cuando puedan ser utilizados por menores. Entre ellas figura la obligación de identificar y limitar funciones que fomenten una dependencia emocional, presenten al sistema como una persona real o animen al usuario a sustituir sus relaciones familiares y sociales por conversaciones con una máquina.
Los asistentes deberán evitar respuestas que refuercen conductas dañinas, como el aislamiento, la autolesión o la dependencia extrema. También se plantea que expliquen de forma clara que el usuario está interactuando con una inteligencia artificial, sin crear una falsa sensación de conciencia, afecto o compromiso personal.
El objetivo no es impedir que los adolescentes utilicen herramientas de IA para estudiar, crear contenidos o resolver dudas. La prioridad es establecer una diferencia clara entre un asistente útil y un sistema diseñado para convertirse en una presencia constante en la vida del menor.
Control parental más sencillo y eficaz
La nueva orientación europea también pone el foco en el control parental. Las plataformas deberán ofrecer herramientas fáciles de localizar y configurar, con opciones para supervisar el tiempo de uso, limitar determinadas funciones y recibir avisos cuando existan señales de riesgo.
La Comisión quiere evitar que estas herramientas sean excesivamente complejas o que obliguen a las familias a recorrer numerosos menús. Los controles tendrán que estar explicados en un lenguaje comprensible y permitir distintos niveles de intervención, desde la supervisión general hasta el bloqueo de contenidos o servicios concretos.
En el caso de los chatbots, esto podría traducirse en perfiles adaptados a la edad, restricciones sobre determinados temas y mecanismos para que los padres conozcan qué funciones están activas. La protección deberá ser compatible con la privacidad del menor y no convertirse en una vigilancia indiscriminada de sus conversaciones.
Adiós a los diseños que enganchan
El marco europeo aborda asimismo los llamados patrones oscuros: interfaces y dinámicas que empujan al usuario a seguir conectado, comprar, compartir más datos o aceptar decisiones que no había previsto. Entre las prácticas que se quieren revisar están la reproducción automática, las notificaciones constantes, las recompensas variables y los avisos que dificultan abandonar una aplicación.
La Comisión considera especialmente problemáticas estas técnicas cuando se dirigen a usuarios que todavía no tienen la misma capacidad que un adulto para valorar sus consecuencias. Por ello, las plataformas tendrán que evaluar si sus sistemas de recomendación y sus mecánicas de juego favorecen un consumo compulsivo.
- Reducir las notificaciones y recomendaciones diseñadas para prolongar el uso.
- Facilitar la salida de una cuenta o el cierre de una sesión.
- Evitar recompensas que presionen a los menores para volver continuamente.
- Revisar la publicidad personalizada y la recopilación de datos.
Edad, privacidad y contenidos peligrosos
Otro de los puntos centrales será la comprobación de la edad. Bruselas busca que las plataformas puedan distinguir entre adultos y menores sin exigir la entrega de más información personal de la necesaria. Las soluciones deberán ser proporcionales, seguras y respetuosas con la normativa europea de protección de datos.
La verificación de edad se aplicaría especialmente a servicios con contenidos o funciones no adecuados para niños y adolescentes. En paralelo, las empresas tendrán que mejorar los sistemas para denunciar abusos, retirar material ilegal y responder con rapidez ante situaciones de acoso, explotación o exposición a contenidos violentos.
La regulación también presta atención a los algoritmos de recomendación. Las plataformas deberán analizar si sus sistemas conducen a los menores hacia contenidos cada vez más extremos, dañinos o relacionados con trastornos alimentarios, autolesiones u otras conductas de riesgo.
Una responsabilidad compartida entre plataformas y familias
Las medidas no descargan toda la responsabilidad en los padres. La Comisión defiende que las empresas deben incorporar la seguridad de los menores desde el diseño del producto y no limitarse a reaccionar cuando aparece un problema. También deberán documentar los riesgos, realizar evaluaciones periódicas y demostrar que las medidas adoptadas funcionan.
Para las familias, el nuevo marco puede suponer más información y herramientas para decidir cómo y cuándo utilizan sus hijos las plataformas digitales. Para las compañías tecnológicas, en cambio, implica revisar modelos de negocio basados en la atención, la personalización y la interacción continua.
La aplicación práctica dependerá ahora del desarrollo de las medidas y de la supervisión de las autoridades nacionales. En cualquier caso, el mensaje de Bruselas es claro: la inteligencia artificial y el resto de servicios digitales destinados o accesibles a menores tendrán que ofrecer algo más que filtros de contenido. También deberán proteger su bienestar, su autonomía y su capacidad para desconectar.
