Todos quieren frenar la carrera de la IA, pero nadie se fía de que el otro vaya a hacerlo primero
La propuesta de Dario Amodei, consejero delegado de Anthropic, ha vuelto a poner sobre la mesa una cuestión cada vez más difícil de ignorar: si los modelos de inteligencia artificial avanzan demasiado deprisa, quizá la sociedad no tenga tiempo suficiente para entender sus riesgos ni para crear mecanismos eficaces de control.
Sam Altman, Elon Musk, Demis Hassabis y Satya Nadella se han mostrado favorables a reflexionar sobre el ritmo de desarrollo. Sin embargo, entre defender una pausa y aplicarla existe un obstáculo enorme: ninguna empresa ni potencia tecnológica quiere ser la primera en levantar el pie del acelerador.
El dilema de Estados Unidos frente a China
El propio Amodei identifica a China como el principal problema de cualquier iniciativa unilateral. Si los laboratorios estadounidenses ralentizan el entrenamiento de nuevos modelos mientras sus competidores chinos siguen avanzando, Estados Unidos podría perder una ventaja considerada estratégica tanto en el ámbito económico como en el militar.
La inteligencia artificial avanzada puede mejorar la productividad, automatizar tareas científicas y acelerar el desarrollo de nuevos materiales. También puede utilizarse en ciberseguridad, propaganda, vigilancia o sistemas de defensa. Esa combinación hace que la carrera tecnológica se parezca cada vez más a una competición geopolítica.
La posición del presidente estadounidense Donald Trump encaja con esta lógica. Su argumento es sencillo: detenerse no parece una opción si existe la posibilidad de que el rival continúe y termine imponiéndose. Washington podría aceptar nuevas salvaguardas, pero no parece dispuesto a frenar el desarrollo de modelos de frontera, los sistemas más potentes disponibles en cada momento.
China también reclama reglas, aunque con sus propios intereses
Pekín, por su parte, ha defendido la creación de un marco global de gobernanza de la IA basado en el consenso entre países. Xi Jinping ha planteado esta idea dentro del grupo BRICS, formado originalmente por Brasil, Rusia, India y China, junto con la creación de una comunidad de inteligencia artificial de código abierto.
La propuesta refleja una paradoja. Tanto Estados Unidos como China reconocen que hacen falta normas internacionales, pero ambos sospechan que el otro podría utilizar esas reglas para consolidar su posición o limitar el crecimiento de sus competidores.
En este contexto, las declaraciones de Amodei han sido interpretadas en China como una maniobra geopolítica. La acusación recuerda que cualquier llamamiento a la prudencia puede percibirse también como un intento de mantener la ventaja tecnológica de quien ya va por delante.
Frenar puede significar restringir el acceso, no dejar de avanzar
Una de las posibilidades más probables es que los grandes laboratorios no detengan realmente la investigación, sino que limiten quién puede utilizar sus modelos más avanzados. El desarrollo continuaría, pero con sistemas reservados para gobiernos, grandes empresas o clientes considerados estratégicos.
Un modelo de IA necesita enormes cantidades de datos, potencia de cálculo y electricidad para entrenarse. Ese proceso permite que el sistema aprenda a reconocer patrones y genere respuestas, código o imágenes. Cuando se habla de modelos de frontera se hace referencia a los que combinan mayor capacidad, escala y autonomía, pero también a los que pueden presentar riesgos más difíciles de anticipar.
El resultado podría ser una carrera menos visible. Las empresas anunciarían productos comerciales más controlados mientras mantienen en secreto sus sistemas experimentales, especialmente aquellos capaces de ayudar en ciberataques, investigación científica o planificación estratégica.
El dilema del prisionero aplicado a la inteligencia artificial
La situación encaja con el conocido dilema del prisionero. Dos participantes pueden obtener un resultado mejor si cooperan, pero cada uno tiene incentivos para traicionar al otro si no confía en que cumplirá su parte.
Estados Unidos y China podrían beneficiarse de evitar la aparición de una inteligencia artificial imposible de controlar. No obstante, ambos temen que el otro utilice una pausa para avanzar en secreto y obtener una ventaja decisiva. Por eso, la estrategia aparentemente más segura para cada actor consiste en seguir desarrollando sus modelos.
Las empresas se encuentran ante el mismo problema. Anthropic podría retrasar su próximo modelo sin necesidad de esperar una nueva ley, pero tendría que asumir que OpenAI, Google, Meta, xAI o los laboratorios chinos aprovecharían la oportunidad para acercarse o adelantarla.
Además, un acuerdo explícito entre competidores para ralentizar el desarrollo podría despertar problemas de competencia y ser investigado como una posible práctica antimonopolio. La prudencia tecnológica chocaría así con las reglas del mercado.
El gran reto: comprobar que todos cumplen
Incluso si las potencias alcanzaran un acuerdo, verificarlo sería mucho más complicado que controlar armas convencionales. Durante la Guerra Fría existían límites relativamente claros para el número de misiles, bombarderos o cabezas nucleares, además de mecanismos de inspección.
En la inteligencia artificial, el ritmo de progreso no depende únicamente de construir más centros de datos. Los algoritmos pueden hacerse más eficientes, el entrenamiento puede repartirse entre distintos países y un avance de software puede ofrecer mejores resultados con los mismos chips y la misma energía.
El acceso a semiconductores, centros de datos y electricidad podría servir como punto de control, pero no resolvería el problema por completo. Sin inspecciones fiables, intercambio de información y garantías verificables, cualquier promesa de pausa quedaría basada en la confianza entre rivales que tienen motivos para desconfiar.
La discusión, por tanto, no gira solo en torno a si la IA debe avanzar más despacio. La cuestión central es quién está dispuesto a hacerlo primero y cómo puede saber que los demás también cumplen. Mientras no exista una respuesta convincente, el llamamiento a frenar seguirá siendo popular en público, pero muy difícil de convertir en una decisión real.
