OpenAI, Anthropic y Google negocian un organismo privado para fijar la seguridad de la IA
OpenAI, Anthropic y Google DeepMind mantienen desde julio conversaciones reservadas para crear un organismo industrial de estándares de seguridad para la inteligencia artificial. La iniciativa pretende establecer pruebas comunes, auditorías independientes y revisiones previas al lanzamiento de los modelos más avanzados, conocidos como modelos de frontera.
Las negociaciones se producen en un momento de creciente presión política y social por los riesgos de la IA. En las últimas semanas, varios ejecutivos e investigadores han advertido de posibles escenarios extremos, mientras aumentan las peticiones de supervisión pública sobre los agentes capaces de ejecutar tareas de forma autónoma.
Una propuesta inspirada en la autorregulación financiera
El impulso inicial partió de Demis Hassabis, consejero delegado de Google DeepMind. El directivo propuso en julio crear una entidad similar a FINRA, el organismo estadounidense de autorregulación que supervisa a los corredores de bolsa y a las empresas de valores.
La idea trasladada al ámbito de la inteligencia artificial consistiría en crear una estructura con sede en Estados Unidos, capaz de definir criterios técnicos comunes y coordinarse con las administraciones públicas. Su objetivo sería adelantarse a una regulación más amplia del Congreso estadounidense.
El organismo podría establecer qué controles debe superar un modelo antes de llegar al mercado y quién debe realizar esas comprobaciones. Entre las medidas que se barajan figuran:
- Protocolos compartidos para evaluar modelos de frontera antes de su publicación.
- Pruebas estandarizadas sobre capacidades peligrosas o comportamientos inesperados.
- Auditorías independientes de los sistemas desarrollados por las grandes compañías.
- Revisiones de seguridad previas al lanzamiento de nuevos modelos.
- Evaluaciones comparables de riesgos entre diferentes laboratorios.
Los modelos de frontera son los sistemas de IA más potentes y avanzados disponibles en cada momento. Pueden generar texto, imágenes y código, utilizar herramientas externas o actuar como agentes para completar tareas. Su creciente autonomía dificulta anticipar todos sus posibles usos y fallos.
Las tres empresas no defienden exactamente el mismo modelo
Aunque comparten la necesidad de elevar los controles de seguridad, las compañías mantienen diferencias sobre quién debería dirigirlos. Anthropic se inclina por una colaboración más estrecha con el Gobierno estadounidense y plantea que las evaluaciones puedan quedar en manos de laboratorios nacionales o agencias federales.
OpenAI apoyaría la creación de un organismo auditor, pero considera que los grandes laboratorios tendrían que ponerlo en marcha sin esperar a que la Administración aporte una estructura formal. La compañía teme que el respaldo político no llegue a tiempo o que no reúna las condiciones necesarias.
Google DeepMind, por su parte, defiende una organización de autorregulación suficientemente sólida como para funcionar antes de que entre en vigor una normativa gubernamental específica. La propuesta permitiría a la industria definir de antemano parte de los criterios que después podrían adoptar los legisladores.
El riesgo de convertir la seguridad en una barrera de entrada
La iniciativa también plantea dudas desde el punto de vista de la competencia. OpenAI, Anthropic y Google se encuentran entre las empresas con más recursos informáticos, investigadores y capacidad para realizar evaluaciones complejas.
Startups y laboratorios de menor tamaño temen que un organismo controlado de facto por los tres grandes establezca requisitos demasiado costosos. Si las pruebas exigieran infraestructuras o equipos que solo pueden permitirse las compañías dominantes, la seguridad podría convertirse en una barrera de entrada para nuevos competidores.
El debate no se limita a determinar si los modelos son seguros. También afecta a quién decide qué significa seguridad, qué riesgos deben considerarse aceptables y qué consecuencias tendría no superar una evaluación. Por ese motivo, cualquier sistema de autorregulación necesitaría transparencia, supervisión externa y mecanismos para evitar conflictos de intereses.
La carrera entre la industria y el Congreso
La Casa Blanca habría trabajado en un borrador para crear un organismo nacional de estándares de IA, aunque el proyecto se habría encontrado con divisiones internas. La orientación política de la Administración de Donald Trump, más contraria a una regulación amplia del sector, complica la aprobación de una estructura pública a corto plazo.
En este contexto, el organismo privado podría convertirse en la vía más rápida para fijar reglas antes de 2027. El Congreso, sin embargo, afronta un calendario limitado por las elecciones legislativas de noviembre y debate propuestas que podrían otorgar al Gobierno capacidad para bloquear o condicionar el lanzamiento de determinados modelos.
La cuestión central es quién llegará primero. Si los laboratorios publican un marco común antes de que el Congreso apruebe una ley, podrán defender que la industria ya dispone de controles propios. Si los legisladores actúan antes, serán las instituciones públicas las que definan los requisitos con fuerza legal.
Una iniciativa que cambia la lectura de las advertencias públicas
La existencia de conversaciones sistemáticas desde julio sugiere que las recientes advertencias sobre los riesgos de la inteligencia artificial no fueron un fenómeno aislado. Los mensajes públicos de ejecutivos e investigadores coinciden con un proceso de coordinación que ya estaba en marcha desde hacía meses.
El momento elegido para hacer visible el debate también tiene una dimensión política. Mientras Estados Unidos analiza nuevas competencias para supervisar los modelos de IA, las grandes empresas intentan presentar una alternativa industrial que les permita participar en el diseño de las reglas.
El resultado puede definir durante la próxima década quién establece los estándares de seguridad de la IA de frontera: los propios laboratorios, el Gobierno estadounidense o una combinación de ambos. En cualquier caso, las pruebas independientes y la transparencia serán determinantes para que la autorregulación no se perciba como una estrategia para retrasar la regulación.
