OpenAI pide a Estados Unidos que lidere los estándares globales de inteligencia artificial
Sam Altman comparece este 25 de septiembre ante el Consejo de Seguridad de Naciones Unidas para defender una propuesta de coordinación internacional sobre inteligencia artificial. El documento, publicado por OpenAI el pasado 21 de septiembre, plantea que Estados Unidos impulse la creación de estándares globales para los sistemas más avanzados, con especial atención a los llamados modelos frontera y a la mejora automática recursiva.
La sesión del Consejo de Seguridad es la primera dedicada específicamente a los riesgos de seguridad asociados a la IA y a la posible pérdida de control humano sobre los sistemas más capaces. La reunión reúne también a Dario Amodei, consejero delegado de Anthropic, que participa por videoconferencia, al investigador Yoshua Bengio y al CEO de Hugging Face, Clément Delangue.
El encuentro está presidido por el ministro de Exteriores francés, Jean-Noël Barrot, en una semana marcada por la creciente presión diplomática para establecer reglas comunes sobre una tecnología cuyo desarrollo ya supera las fronteras nacionales.
La mejora automática recursiva, en el centro del debate
OpenAI propone que los futuros estándares internacionales se concentren en tres áreas. La primera es la medición de la mejora automática recursiva, conocida por sus siglas en inglés, RSI. Se trata del proceso por el que un sistema de IA participa activamente en el diseño, entrenamiento o perfeccionamiento de sus propios sucesores.
En la práctica, esto podría traducirse en modelos capaces de automatizar una parte cada vez mayor de la investigación necesaria para crear nuevas generaciones de sistemas de inteligencia artificial. La preocupación no reside únicamente en que una IA sea más potente, sino en que acelere su propia evolución con una supervisión humana insuficiente.
La compañía propone desarrollar métricas comunes para saber qué porcentaje de las tareas de investigación y desarrollo ya está siendo automatizado dentro de los laboratorios. También sostiene que la RSI completamente autónoma no se está produciendo en la actualidad y que no debería perseguirse hasta disponer de garantías suficientes de seguridad.
Tres pilares para una coordinación internacional
El segundo eje es la supervisión humana obligatoria. OpenAI quiere definir qué procesos de investigación automatizada deben detenerse para activar una revisión humana antes de continuar. El objetivo sería establecer umbrales claros que impidan a los agentes de IA actuar fuera de los límites previstos sin que nadie lo detecte a tiempo.
El tercer elemento consiste en crear una clasificación común de incidentes. Ese sistema permitiría asignar niveles de gravedad a los fallos, comportamientos inesperados o problemas de alineamiento de los modelos. El alineamiento es el conjunto de técnicas destinadas a conseguir que una IA actúe de acuerdo con los objetivos y restricciones definidos por las personas.
La propuesta compara este enfoque con los protocolos de la aviación o con los mecanismos utilizados para vigilar la estabilidad financiera. Un sistema compartido facilitaría la notificación, el análisis y el seguimiento de los incidentes, incluso cuando afecten a varios países o infraestructuras críticas.
Sin licencias previas ni cesión de soberanía
OpenAI subraya que sus estándares no equivaldrían a licencias internacionales ni exigirían una aprobación previa antes de lanzar un modelo. Cada gobierno decidiría si incorpora esas reglas a su legislación y de qué manera.
La compañía apuesta así por un modelo de cooperación técnica similar al de la Organización de Aviación Civil Internacional o al Comité de Supervisión Bancaria de Basilea. En ambos casos existen normas y procedimientos comunes, pero los Estados mantienen el control sobre su aplicación.
El documento también pide crear canales seguros para compartir información sobre amenazas entre gobiernos, empresas tecnológicas e infraestructuras esenciales. En este contexto, OpenAI considera positivo abrir un diálogo específico entre Estados Unidos y China, dos de las principales potencias en el desarrollo de sistemas avanzados.
La dimensión geopolítica de la propuesta
El argumento de OpenAI para conceder el liderazgo a Estados Unidos se apoya en la posición de su industria tecnológica, que considera la más avanzada del mundo, y en el papel central del país en las redes globales de finanzas, defensa, tecnología y comunicaciones.
La lógica es directa: el país que marque primero los criterios técnicos tendrá una influencia decisiva sobre el marco internacional. Sin embargo, ese liderazgo también implicaría aceptar mecanismos de transparencia, intercambio de información y límites compartidos para los laboratorios estadounidenses.
La agenda diplomática refuerza el mensaje. Estados Unidos y China han anunciado la creación de un diálogo bilateral sobre inteligencia artificial, mientras que la visita de Xi Jinping a la Casa Blanca sitúa la tecnología entre los asuntos prioritarios. Al mismo tiempo, la Administración estadounidense mantiene un discurso ambivalente, con sectores que rechazan los estándares globales por considerarlos una forma de limitar la competitividad nacional.
El reto: coordinar sin diluir responsabilidades
La cooperación internacional resulta especialmente compleja porque los daños provocados por un sistema desarrollado en un país pueden producirse en cualquier otro. Un modelo sin salvaguardas podría afectar a usuarios, empresas o servicios públicos a miles de kilómetros del laboratorio que lo creó, lo que dificulta determinar quién debe responder.
Esta diferencia complica la comparación con la seguridad aérea. En la aviación, los Estados comparten un interés evidente en evitar accidentes dentro de sus propios territorios. En la inteligencia artificial, los riesgos están distribuidos entre desarrolladores, gobiernos, proveedores de infraestructura y usuarios finales.
La intervención de Altman ante Naciones Unidas no resolverá por sí sola estas cuestiones. La creación de métricas, protocolos de incidentes y canales de alerta requerirá años de negociación. Aun así, la propuesta representa un primer intento de establecer un mínimo común para controlar los sistemas más avanzados sin recurrir, de entrada, a prohibiciones generales o licencias de lanzamiento.
La cuestión decisiva será si Estados Unidos está dispuesto a liderar una coordinación internacional con obligaciones recíprocas y rendición de cuentas, o si pretende limitarse a fijar las reglas desde una posición de ventaja. El debate que comienza en el Consejo de Seguridad de la ONU marcará una de las primeras batallas diplomáticas por definir quién controla el desarrollo de la inteligencia artificial más potente.
