La ONU reclama reglas comunes para controlar el avance de la inteligencia artificial
La inteligencia artificial afronta un desafío decisivo: avanzar con innovación, pero bajo normas que permitan exigir responsabilidades cuando sus sistemas causen daños. Naciones Unidas trabaja para que los países acuerden un marco común ante riesgos como la desinformación, la discriminación algorítmica y el desarrollo de sistemas cada vez más difíciles de supervisar.
“El daño no es la tecnología. Es la tecnología sin rendición de cuentas”, ha resumido el secretario general de la ONU, António Guterres. Su mensaje pone el foco en una cuestión que va más allá de las capacidades técnicas de la IA: quién responde por sus decisiones, cómo se controlan sus efectos y qué límites deben aplicarse a los modelos más avanzados.
Un marco internacional para una tecnología sin fronteras
La expansión de la inteligencia artificial ha convertido su regulación en uno de los grandes retos de la cooperación internacional. Los sistemas se desarrollan, entrenan y despliegan en distintos países, mientras que sus consecuencias pueden afectar a ciudadanos de todo el mundo.
Por este motivo, Naciones Unidas defiende que las normas no dependan únicamente de iniciativas nacionales o de acuerdos voluntarios de las empresas. El objetivo es avanzar hacia reglas comunes, mecanismos de supervisión y obligaciones claras para los gobiernos y las compañías que diseñan o utilizan estas herramientas.
La organización considera necesario que la regulación garantice la transparencia, la protección de los derechos fundamentales y la posibilidad de revisar las decisiones automatizadas. También plantea que las personas afectadas puedan reclamar y obtener una explicación cuando un sistema de IA intervenga en ámbitos sensibles.
Desinformación, discriminación y pérdida de control
Entre las principales amenazas identificadas figura el uso de la inteligencia artificial para fabricar y distribuir desinformación a gran escala. La generación automática de textos, imágenes, vídeos y voces puede dificultar la distinción entre contenidos reales y manipulados, especialmente durante procesos electorales o en situaciones de crisis.
Otro riesgo es la discriminación derivada de datos incompletos o sesgados. Un algoritmo puede reproducir desigualdades existentes si se emplea para seleccionar candidatos, conceder créditos, evaluar prestaciones sociales o tomar decisiones relacionadas con la seguridad y la justicia.
El debate también incluye la posibilidad de que aparezcan sistemas con capacidades muy superiores a las actuales. La denominada superinteligencia plantea dudas sobre la capacidad humana para anticipar su comportamiento y mantener el control sobre sus objetivos, especialmente si opera con un elevado grado de autonomía.
Los controles actuales no son suficientes
Distintos especialistas advierten de que las medidas aplicadas hasta ahora no bastan para frenar los riesgos asociados a los agentes de IA. Estas herramientas pueden planificar tareas, utilizar aplicaciones, interactuar con otros sistemas y ejecutar acciones con una intervención humana limitada.
La preocupación no se centra únicamente en los modelos más potentes, sino también en la velocidad con la que se incorporan a empresas, administraciones y servicios digitales. Cuando una tecnología se despliega antes de comprobar sus efectos, corregir sus errores puede resultar más difícil y costoso.
Por ello, la supervisión debería acompañar a todo el ciclo de vida de la inteligencia artificial: desde la recopilación de datos y el entrenamiento hasta la puesta en funcionamiento y las actualizaciones posteriores. Las auditorías independientes, los registros de incidentes y las evaluaciones de impacto forman parte de las herramientas que se barajan para reforzar ese control.
Cooperación entre Estados Unidos y China
António Guterres ha pedido cooperación entre las grandes potencias tecnológicas, incluidas Estados Unidos y China. La ONU teme que la competencia por dominar la inteligencia artificial desemboque en una carrera sin suficientes salvaguardas, en la que la rapidez tenga más peso que la seguridad.
La coordinación internacional resulta especialmente compleja por las diferencias económicas, políticas y estratégicas entre los países. Sin embargo, Naciones Unidas sostiene que ningún Estado puede abordar por sí solo una tecnología cuyo impacto atraviesa fronteras y afecta a infraestructuras, mercados y ciudadanos de todo el planeta.
El propósito no sería frenar la investigación ni impedir el desarrollo de nuevas aplicaciones, sino establecer unas condiciones mínimas compartidas. Entre ellas se encuentran la responsabilidad de los desarrolladores, la protección de los usuarios y la prohibición de usos incompatibles con los derechos humanos.
La voz de los niños también debe estar presente
La ONU reclama además que los niños y los jóvenes sean escuchados en el debate. Son uno de los colectivos más expuestos a los efectos de la IA, desde los sistemas educativos y las plataformas de entretenimiento hasta la publicidad personalizada y las herramientas de vigilancia.
Incorporar su perspectiva permitiría analizar mejor cuestiones como la privacidad, la dependencia tecnológica, la manipulación de contenidos y el impacto de los algoritmos en el aprendizaje y el bienestar. La protección de los menores deberá ocupar un lugar central en cualquier acuerdo internacional.
La regulación de la inteligencia artificial se presenta así como una carrera paralela a la innovación. El reto para los gobiernos será construir normas suficientemente firmes para garantizar la rendición de cuentas, pero también lo bastante flexibles para adaptarse a una tecnología que evoluciona a gran velocidad.
