La ONU pide garantías de seguridad global ante el posible riesgo existencial de una IA avanzada
La rápida evolución de la inteligencia artificial ha llevado a Naciones Unidas a reclamar una respuesta internacional capaz de anticiparse a sus riesgos más graves. Volker Türk, alto comisionado de la ONU para los Derechos Humanos, ha advertido de que el desarrollo de sistemas de IA cada vez más avanzados podría plantear un riesgo existencial si no se establecen garantías de seguridad y mecanismos de control eficaces.
El llamamiento sitúa la inteligencia artificial en el centro de un debate que ya no se limita a la innovación tecnológica. Para Naciones Unidas, la expansión de estas herramientas afecta directamente a la protección de los derechos humanos, la estabilidad internacional y la capacidad de los Estados para responder a decisiones tomadas o influenciadas por sistemas automatizados.
Una tecnología con capacidad para transformar la sociedad
La IA generativa y los modelos avanzados han demostrado su capacidad para procesar grandes volúmenes de información, crear contenidos, asistir en tareas profesionales y automatizar procesos complejos. Su evolución, sin embargo, también plantea interrogantes sobre los límites de su autonomía, la supervisión humana y el uso que Gobiernos y empresas pueden hacer de estas tecnologías.
El alto comisionado considera necesario abordar esta transformación con una perspectiva global. La velocidad a la que progresan los sistemas de inteligencia artificial dificulta que las leyes y los organismos de control reaccionen a tiempo. Sin una coordinación suficiente, las diferencias entre países podrían generar zonas con normas muy dispares y aumentar los riesgos de usos irresponsables.
La preocupación no se centra únicamente en los escenarios más extremos. También incluye problemas ya visibles, como la discriminación algorítmica, la vigilancia masiva, la manipulación de información, la pérdida de privacidad y la dificultad para determinar quién responde cuando una decisión automatizada causa daños.
La seguridad debe ir unida a los derechos humanos
La ONU defiende que la seguridad de la inteligencia artificial no puede abordarse al margen de los derechos fundamentales. Los sistemas que intervienen en ámbitos como el empleo, la educación, la salud, la justicia o el acceso a servicios públicos pueden influir de forma decisiva en la vida de millones de personas.
Por este motivo, cualquier despliegue de IA debería contar con evaluaciones de impacto, controles independientes y vías claras para reclamar. La ciudadanía necesita saber cuándo está interactuando con un sistema automatizado, qué datos se utilizan y cómo puede impugnar una decisión que considere injusta o errónea.
La transparencia también resulta esencial. Los modelos de inteligencia artificial pueden ofrecer respuestas convincentes sin que sus usuarios conozcan con precisión cómo han llegado a una conclusión. En contextos sensibles, esa falta de explicaciones puede dificultar la detección de errores y dejar a las personas en una situación de indefensión.
La necesidad de reglas internacionales
El mensaje de Volker Türk apunta a la necesidad de reforzar la cooperación entre países. La inteligencia artificial no se detiene en las fronteras y sus efectos pueden extenderse rápidamente a través de internet, las plataformas digitales y las cadenas globales de suministro tecnológico.
Una respuesta internacional debería incluir estándares comunes de seguridad, obligaciones para los desarrolladores y procedimientos para notificar incidentes graves. También tendría que definir responsabilidades cuando un sistema se utiliza de manera negligente o cuando sus resultados provocan perjuicios a gran escala.
- Evaluaciones independientes antes y después de poner en servicio sistemas avanzados.
- Supervisión humana en decisiones con impacto sobre derechos fundamentales.
- Protección reforzada de los datos personales y de la información sensible.
- Canales de denuncia y reparación accesibles para las personas afectadas.
- Cooperación internacional para prevenir usos maliciosos o desestabilizadores.
Un desafío que requiere anticipación
La advertencia de Naciones Unidas llega en un momento en el que las empresas tecnológicas compiten por desarrollar modelos con mayores capacidades de razonamiento, autonomía y adaptación. Esta carrera puede acelerar avances útiles, pero también aumentar la presión para lanzar productos antes de haber comprobado todos sus riesgos.
El debate sobre una posible IA avanzada no implica rechazar la innovación. La cuestión, según la perspectiva defendida por la ONU, consiste en garantizar que el progreso tecnológico permanezca bajo control democrático y se oriente al interés general. La seguridad debe integrarse desde el diseño, no añadirse después de que aparezcan los problemas.
Para Türk, la comunidad internacional debe actuar antes de que los riesgos sean imposibles de gestionar. Eso exige combinar investigación técnica, regulación, supervisión pública y protección de los derechos humanos. La falta de acuerdos, en cambio, podría dejar decisiones de enorme trascendencia en manos de un reducido número de compañías o Gobiernos.
El reto ya no es determinar si la inteligencia artificial cambiará la sociedad, sino establecer bajo qué condiciones lo hará. Naciones Unidas reclama que esa transformación se produzca con garantías globales, responsabilidad y controles suficientes para evitar que una tecnología con un potencial extraordinario termine generando daños irreversibles.
