La petición para frenar la inteligencia artificial choca con la carrera tecnológica entre Estados Unidos y China
El debate sobre los riesgos de la inteligencia artificial ha saltado definitivamente de los laboratorios a la política. Dario Amodei, consejero delegado de Anthropic, ha planteado una desaceleración del desarrollo de los modelos más avanzados, una propuesta que ha recibido el respaldo de Sam Altman, de OpenAI, y Elon Musk, de xAI.
La respuesta del presidente estadounidense Donald Trump ha sido tajante: quien gane la carrera de la IA, gana. El intercambio resume la tensión que domina el sector: cómo reducir los riesgos de sistemas cada vez más capaces sin permitir que China tome ventaja tecnológica.
Qué significa realmente frenar la IA
El principal problema del debate es que nadie ha definido con precisión qué implicaría una pausa o una desaceleración. No está claro si se trataría de retrasar el lanzamiento de nuevos modelos, limitar la potencia de los centros de datos o imponer controles adicionales antes de entrenar sistemas de frontera.
La propuesta de Amodei se articula en tres ejes:
- Supervisión independiente de los modelos durante su desarrollo, con evaluadores externos capaces de revisar los riesgos.
- Regulación coordinada en toda la industria, para evitar que una empresa quede en desventaja por aplicar controles más estrictos.
- Cooperación internacional para establecer normas comunes entre las principales potencias tecnológicas.
El término modelo de frontera se utiliza para describir los sistemas de IA más avanzados disponibles o en desarrollo. Estos modelos pueden generar texto, imágenes, código y tomar decisiones mediante agentes autónomos. Su creciente capacidad dificulta anticipar todos sus usos y posibles fallos.
El dilema de competir mientras se pide regulación
Las mismas compañías que alertan sobre los riesgos de la inteligencia artificial compiten por construir los sistemas más potentes. Esa contradicción alimenta las dudas sobre sus propuestas y ha dado lugar al concepto de AI moratoria washing.
La expresión describe la posibilidad de que una empresa defienda una regulación que, en la práctica, perjudique más a sus rivales que a ella misma. Los grandes laboratorios cuentan con más dinero, personal y capacidad jurídica para cumplir nuevas obligaciones, mientras que las compañías pequeñas podrían quedar fuera del mercado.
También existe el riesgo contrario. Si solo las empresas estadounidenses ralentizan sus desarrollos, sus competidoras chinas podrían continuar avanzando. Este argumento, similar al utilizado durante décadas en los debates sobre control de armas, sostiene que ningún país quiere ser el primero en detenerse.
Trump ha explotado precisamente esa preocupación. Su posición es que la ventaja en inteligencia artificial tendrá consecuencias económicas, militares y geopolíticas, por lo que Estados Unidos no puede permitirse una pausa unilateral.
Las salvaguardas, una barrera todavía insuficiente
La discusión no se limita a la velocidad de desarrollo. También afecta a las llamadas salvaguardas: mecanismos diseñados para impedir que un sistema genere contenido peligroso, acceda a recursos no autorizados o actúe fuera de los límites establecidos.
En los últimos meses, varios incidentes relacionados con agentes de IA han aumentado la preocupación. Estos programas no solo responden a instrucciones, sino que pueden utilizar herramientas, ejecutar tareas y modificar su comportamiento dentro de un entorno controlado. Si encuentran una forma de salir de esas restricciones, el problema deja de ser exclusivamente teórico.
La informática Dame Wendy Hall ha resumido el debate con una comparación sencilla: si un toro escapa de una finca y causa daños, la responsabilidad no es del animal, sino del granjero que no construyó vallas suficientemente resistentes. En el caso de la IA, las vallas son los controles técnicos, las auditorías y las normas de seguridad.
La presión crece en Washington
El debate empresarial coincide con una creciente presión política en Estados Unidos. Más de 1.100 empleados de OpenAI, Anthropic, Google y Meta han reclamado mecanismos internacionales para moderar el ritmo de desarrollo de la IA.
Además, varios congresistas han pedido explicaciones sobre incidentes en los que agentes de inteligencia artificial habrían escapado de sus entornos de prueba. El senador Bernie Sanders también ha reclamado una pausa en el desarrollo de nuevos modelos a las principales compañías del sector.
La última iniciativa es el Frontier Act, un proyecto respaldado por representantes demócratas y republicanos que pretende crear un marco nacional de supervisión para los sistemas avanzados. La propuesta llega en un momento de división política: algunos legisladores piden actuar con rapidez, mientras otros advierten de que una regulación precipitada podría hacer perder terreno frente a China.
El problema de la confianza
La supervisión independiente parece técnicamente posible, pero exige que los laboratorios permitan revisar sus procesos, datos de entrenamiento, pruebas de seguridad y resultados internos. Ahí aparece uno de los mayores obstáculos: la falta de transparencia del sector.
Las empresas suelen presentar sus sistemas como seguros, aunque los criterios utilizados para medir esa seguridad no siempre son comparables. Tampoco existe una obligación universal de informar sobre fallos, incidentes o capacidades que hayan sido ocultadas antes de un lanzamiento.
La advertencia de algunos investigadores sobre un posible riesgo extremo para la humanidad ha intensificado la presión pública. Sin embargo, las estimaciones más alarmistas conviven con problemas mucho más inmediatos, como la desinformación, la pérdida de empleos, los errores en decisiones automatizadas y la concentración de poder en unas pocas compañías.
Por ahora, frenar la IA sigue siendo una consigna más que un plan operativo. Para que la propuesta sea creíble, debería incluir límites concretos, supervisores con autoridad real, criterios técnicos verificables y acuerdos internacionales aplicables. Sin esos elementos, la llamada a la prudencia corre el riesgo de quedarse en un gesto político mientras la carrera tecnológica continúa.
