La seguridad de la inteligencia artificial exige un pacto internacional
La expansión de modelos de inteligencia artificial cada vez más capaces plantea un desafío que ningún país puede resolver por separado. Si estas herramientas llegan a operar con una autonomía difícil de supervisar, los riesgos podrían afectar a la salud pública, la seguridad digital, la economía y la estabilidad política.
La respuesta pasa por crear un marco regulatorio internacional con normas comunes, controles independientes y mecanismos para actuar ante incidentes graves. Para que ese sistema sea viable, Estados Unidos y China, las dos grandes potencias tecnológicas, tendrán que reconocer la dimensión del problema y alcanzar acuerdos mínimos de cooperación.
El riesgo no está solo en la tecnología
La inteligencia artificial puede ayudar a detectar enfermedades, acelerar investigaciones médicas o mejorar la gestión de emergencias. Sin embargo, el mismo potencial puede utilizarse para generar campañas de desinformación, automatizar ataques informáticos o facilitar el acceso a conocimientos peligrosos.
El problema aumenta cuando los sistemas son capaces de planificar tareas, utilizar herramientas externas y tomar decisiones con una intervención humana limitada. En esos escenarios, un error de diseño, una orden mal interpretada o un uso malicioso podrían producir consecuencias difíciles de contener.
Hablar de modelos fuera de control no significa que exista una rebelión tecnológica en marcha. Se refiere, sobre todo, a la posibilidad de que un sistema realice acciones no previstas, persiga objetivos de forma inadecuada o funcione a una velocidad superior a la capacidad de respuesta de las personas y las instituciones.
Qué debería incluir una regulación global
Un régimen internacional de seguridad para la inteligencia artificial tendría que establecer obligaciones antes de que los modelos más avanzados lleguen al mercado. La regulación debería concentrarse en la capacidad y el riesgo de cada sistema, no únicamente en el sector en el que se utiliza.
- Evaluaciones previas: pruebas técnicas y de seguridad antes de desplegar modelos de alto impacto.
- Auditorías independientes: revisiones externas sobre sesgos, vulnerabilidades, privacidad y capacidad de causar daños.
- Registro de incidentes: comunicación rápida de fallos, filtraciones, usos indebidos y comportamientos inesperados.
- Controles de acceso: límites para las funciones más sensibles y supervisión reforzada en ámbitos sanitarios, financieros o de seguridad.
- Trazabilidad: sistemas que permitan identificar cómo se generó una respuesta y quién autorizó una determinada acción.
- Planes de emergencia: protocolos para desconectar, contener o sustituir un modelo cuando represente una amenaza.
En el ámbito sanitario, estas garantías son especialmente importantes. Una herramienta que ayude a orientar diagnósticos o priorizar pacientes no puede convertirse en una caja negra sin supervisión clínica. La decisión final debe permanecer en manos de profesionales cualificados, con información suficiente para detectar errores y corregirlos.
La difícil cooperación entre Washington y Pekín
La rivalidad entre Estados Unidos y China complica cualquier acuerdo. Ambos países compiten por el liderazgo en semiconductores, computación avanzada y desarrollo de modelos. También mantienen diferencias profundas en materia de derechos, privacidad, vigilancia y control de la información.
Aun así, la seguridad de la inteligencia artificial podría convertirse en un terreno de cooperación limitada. No sería necesario resolver todas las disputas geopolíticas, sino pactar reglas básicas para evitar los escenarios más peligrosos.
Entre esas medidas podrían figurar canales de comunicación directa, estándares técnicos compartidos y compromisos para notificar incidentes graves. También sería útil acordar límites sobre el uso autónomo de sistemas en infraestructuras críticas, armas digitales y operaciones capaces de afectar a millones de personas.
Europa puede actuar como puente regulador
La Unión Europea tiene la oportunidad de impulsar normas compatibles entre países y de promover una supervisión basada en el nivel de riesgo. Su influencia no depende únicamente de crear leyes, sino de exigir transparencia a las empresas que quieran operar en su mercado.
Sin embargo, ninguna regulación será suficiente si se limita a Europa o si cada Estado aplica criterios incompatibles. Las compañías pueden trasladar determinadas actividades a jurisdicciones con menos controles, mientras que los usuarios seguirán expuestos a sistemas desarrollados en cualquier parte del mundo.
La prioridad es actuar antes de una crisis
El mayor obstáculo es el calendario. La capacidad de los modelos avanza con rapidez, mientras que los tratados internacionales suelen necesitar años de negociación. Esperar a que ocurra una catástrofe para adoptar medidas sería una estrategia demasiado arriesgada.
La prevención exige combinar innovación y prudencia. Los gobiernos deben invertir en investigación sobre seguridad, formar especialistas y reforzar los organismos de control. Las empresas, por su parte, han de demostrar que sus sistemas son fiables antes de pedir a la sociedad que confíe en ellos.
La inteligencia artificial no necesita una respuesta basada en el miedo, sino en la responsabilidad. Crear normas internacionales, mantener supervisión humana y establecer cooperación entre potencias puede reducir los riesgos sin bloquear los beneficios de esta tecnología. La ventana para hacerlo sigue abierta, pero no permanecerá así indefinidamente.
