California endurece la protección infantil en internet, pero descarta prohibir los chatbots de IA a menores
California ha aprobado el paquete de leyes de seguridad infantil online más exigente de Estados Unidos. El gobernador Gavin Newsom firmó el 10 de septiembre un conjunto de 12 normas que endurecen las obligaciones de las plataformas digitales y elevan las sanciones por negligencia hasta un millón de dólares por cada menor afectado.
La legislación también limita varias funciones diseñadas para prolongar el tiempo de uso, como el desplazamiento infinito, la reproducción automática de vídeos y las notificaciones nocturnas. Sin embargo, Newsom vetó la propuesta más radical del paquete: una prohibición general de los chatbots de inteligencia artificial para menores de 18 años.
Multas de hasta un millón de dólares por menor
El cambio con mayor impacto económico es el nuevo régimen de sanciones. Las plataformas sociales podrían enfrentarse a multas de hasta un millón de dólares por cada niño perjudicado si las autoridades consideran que han actuado de forma negligente en su protección.
Hasta ahora, las sanciones por fallos relacionados con menores podían asumirse como un coste más del negocio. La cuantía aprobada por California pretende modificar ese cálculo y obligar a las empresas a revisar el diseño de sus servicios, sus sistemas de control y la forma en la que identifican a los usuarios menores de edad.
La aplicación práctica de esta medida dependerá de la actuación de las autoridades californianas y de las decisiones de los tribunales. El alcance real de la norma quedará definido por los primeros casos en los que se reclame la compensación de un millón de dólares por menor afectado.
Adiós al scroll infinito y a las notificaciones nocturnas
Las nuevas reglas prohíben ofrecer a los menores de 16 años determinadas funcionalidades consideradas adictivas, salvo que exista un consentimiento parental explícito. Entre ellas se encuentran:
- El desplazamiento infinito de contenidos, conocido como infinite scroll.
- La reproducción automática de vídeos y otros contenidos.
- Las notificaciones enviadas durante la noche.
- Otros mecanismos de diseño destinados a prolongar la permanencia en la plataforma.
La diferencia frente a otros marcos regulatorios es relevante. Mientras algunas normas obligan a las plataformas a ofrecer una opción para desactivar el contenido recomendado por algoritmos, California parte de una prohibición por defecto para menores de 16 años y exige la autorización de los padres para activar estas funciones.
La medida amplía una regulación estatal aprobada en 2024, la SB 976, que ya restringía los feeds considerados adictivos para usuarios menores sin consentimiento parental. El nuevo paquete no parte de cero: refuerza las obligaciones existentes, añade sanciones más severas y extiende el debate a los servicios de inteligencia artificial.
Un veto a la prohibición total de los chatbots
Horas después de firmar el paquete, Newsom vetó el proyecto conocido como Bauer-Kahan. La propuesta impedía que los menores de 18 años utilizaran chatbots de IA, salvo que sus operadores pudieran demostrar previamente que los sistemas no generaban contenido sexual ni fomentaban conductas de autolesión.
Los chatbots de compañía son sistemas de inteligencia artificial diseñados para mantener conversaciones continuas con el usuario. Pueden adoptar una personalidad, recordar parte del contexto de una conversación y responder como si fueran un interlocutor cercano. Esa apariencia de compañía ha generado preocupación por el riesgo de dependencia emocional, manipulación o respuestas inadecuadas ante situaciones de crisis.
Newsom defendió el veto con el argumento de que una prohibición tan amplia podría llevar a las empresas a retirar cualquier producto destinado a menores. En su opinión, eso también limitaría el acceso a herramientas educativas, creativas o de apoyo emocional que pueden resultar beneficiosas si se desarrollan con garantías.
La SB 243 apuesta por controlar el comportamiento de la IA
En lugar de prohibir el acceso, California ha optado por imponer obligaciones específicas a los operadores mediante la SB 243. La norma exige que los chatbots de compañía:
- Recuerden al usuario cada tres horas que está interactuando con una inteligencia artificial y no con una persona.
- Incorporen protocolos para impedir o limitar conversaciones relacionadas con autolesiones.
- Ofrezcan recursos de crisis cuando un usuario manifieste ideación suicida.
La principal objeción de las organizaciones de seguridad infantil se centra en el estándar de conocimiento real. Algunas obligaciones solo se activarían cuando la empresa sepa que está tratando con un menor. En la práctica, demostrar ese conocimiento puede ser difícil si la plataforma no verifica la edad o si el usuario proporciona información falsa.
La verificación de edad es uno de los grandes obstáculos de este tipo de regulación. Experiencias recientes en otros países muestran que muchos menores logran sortear los bloqueos mediante datos falsos, cuentas de adultos o herramientas técnicas. Por ello, California intenta actuar sobre el diseño y el comportamiento de los productos, en lugar de confiar únicamente en impedir el acceso.
California quiere liderar la regulación y la inteligencia artificial
La decisión refleja una tensión cada vez más visible: California aspira a ser referente mundial en protección infantil, pero también es el principal centro de desarrollo de la industria de la inteligencia artificial. La firma de 12 leyes y el veto a una prohibición total muestran un enfoque de regulación estricta, aunque no de cierre completo del mercado.
El modelo californiano se suma a una tendencia internacional. Estados Unidos, Reino Unido, Australia y la Unión Europea estudian medidas sobre redes sociales, sistemas de recomendación y herramientas de IA utilizadas por menores. El reto común consiste en proteger a los niños sin impedir el acceso a servicios educativos o excluirlos de tecnologías que pueden tener usos positivos.
La próxima fase será decisiva. La aplicación de las multas, las demandas de las plataformas y la interpretación judicial determinarán si el paquete se convierte en un cambio profundo del diseño de internet o si acaba funcionando principalmente como una señal política. En cualquier caso, California vuelve a situar la seguridad infantil y la inteligencia artificial en el centro del debate tecnológico.
