Frenar la inteligencia artificial puede proteger a la sociedad, pero también encarecer los modelos abiertos
La propuesta para ralentizar el desarrollo de los sistemas de inteligencia artificial más avanzados está ganando apoyos entre varios grandes laboratorios estadounidenses. Sin embargo, también plantea una consecuencia menos visible: podría dificultar la competencia de los modelos abiertos, precisamente los que están reduciendo el precio de utilizar IA y ampliando su acceso a empresas y desarrolladores.
Dario Amodei, consejero delegado de Anthropic, ha defendido en su ensayo We must pace the frontier la necesidad de moderar el ritmo al que se entrenan y despliegan los modelos de frontera. OpenAI y SpaceXAI han respaldado una visión similar. El debate se presenta como una cuestión de seguridad, pero sus efectos regulatorios podrían recaer de forma muy distinta sobre los laboratorios cerrados y sobre proyectos como DeepSeek, Qwen o Mistral.
La diferencia entre un modelo cerrado y uno abierto
La clave está en los llamados open weights, o pesos abiertos. Los pesos son los valores numéricos que el modelo ajusta durante su entrenamiento y que determinan cómo responde ante una petición. Publicarlos permite que terceros descarguen el sistema, lo ejecuten en sus propios servidores y, en algunos casos, lo modifiquen.
En un modelo cerrado, la compañía mantiene bajo control esos pesos y decide quién puede utilizar el sistema, mediante una aplicación o una interfaz de programación. También puede aplicar filtros, retirar versiones o limitar el acceso si detecta un uso peligroso.
Un modelo abierto funciona de otra manera. Una vez que sus pesos se distribuyen, pueden copiarse y alojarse en numerosos lugares. El desarrollador original puede incluir salvaguardas, pero no tiene la capacidad de imponerlas sobre cada copia. Un usuario puede eliminarlas, sustituirlas o combinar el modelo con otras herramientas.
Esta diferencia complica cualquier norma que obligue a certificar cada versión, supervisar sus usos o garantizar que determinadas medidas de seguridad permanezcan activas. Las exigencias pueden ser asumibles para una empresa que controla toda la cadena, pero mucho más difíciles para un proyecto abierto con miles de implementaciones independientes.
La seguridad como posible barrera de entrada
El planteamiento recuerda a la polémica ley SB 1047 de California, que pretendía establecer responsabilidades para los desarrolladores de sistemas de inteligencia artificial de gran capacidad. El gobernador Gavin Newsom terminó vetándola tras las críticas de empresas tecnológicas y pequeños desarrolladores, que advertían de que el coste de cumplir la norma podía concentrar todavía más el mercado.
El riesgo es que una regulación diseñada para los modelos más potentes termine aplicándose de forma uniforme a realidades muy diferentes. No es lo mismo una compañía que entrena un sistema multimillonario en centros de datos propios que un equipo pequeño que adapta un modelo descargable para una aplicación concreta.
La certificación también puede convertirse en una ventaja competitiva para los grandes laboratorios. Si solo ellos disponen de los recursos legales, técnicos y económicos necesarios para demostrar que sus sistemas cumplen las reglas, el mercado podría cerrarse antes de que aparezcan alternativas capaces de competir en precio y rendimiento.
China gana peso en el ecosistema abierto
El debate ya no gira únicamente en torno a Meta, uno de los primeros gigantes occidentales en apostar con fuerza por la publicación de modelos abiertos. El protagonismo se ha desplazado cada vez más hacia China, con familias como DeepSeek y Qwen, cuyos modelos pueden descargarse y ejecutarse en infraestructuras de terceros.
Esto introduce una paradoja. Las restricciones occidentales podrían ser fáciles de aplicar a los desarrolladores de Estados Unidos y Europa, pero mucho más difíciles de hacer cumplir sobre modelos cuyos pesos ya circulan por millones de servidores y discos duros en todo el mundo.
Una norma que obligase a mantener ciertos controles no eliminaría necesariamente las versiones chinas que ya se han distribuido. En cambio, sí podría elevar los costes de los equipos occidentales que intentan desarrollar modelos comparables, justo cuando buscan reducir la dependencia de las grandes plataformas estadounidenses o asiáticas.
Mistral apuesta por una IA soberana
Europa también intenta ocupar ese espacio. Mistral ha cerrado una ronda de financiación de 3.000 millones de euros con una valoración de 21.000 millones. El atractivo de la compañía francesa se apoya, entre otros elementos, en la posibilidad de ofrecer modelos europeos y pesos abiertos.
La estrategia encaja con el objetivo de construir una IA soberana: sistemas desarrollados y alojados bajo la jurisdicción europea, con mayor control sobre los datos, el código y la infraestructura. Si las futuras reglas favorecen a quienes pueden controlar cada copia del modelo, esa oportunidad podría verse limitada.
Quién decide los límites de la inteligencia artificial
La discusión no consiste únicamente en decidir si hay que frenar el avance de la IA. También importa quién fija el ritmo, qué empresas quedan dentro del perímetro regulado y qué obligaciones se imponen a cada tipo de desarrollador.
Los grandes laboratorios de frontera son quienes tienen más capacidad para sentarse a coordinar estándares y proponer mecanismos de supervisión. Al mismo tiempo, son los que compiten directamente con una alternativa abierta y barata que reduce el valor de sus servicios propietarios.
El resultado podría ser una forma de captura regulatoria: normas justificadas por motivos legítimos de seguridad que, en la práctica, refuercen a los actores dominantes. Frenar la IA puede ser necesario en determinados ámbitos, pero hacerlo sin distinguir entre modelos cerrados y abiertos corre el riesgo de proteger a las compañías que ya controlan el mercado y dejar fuera a quienes intentan disputárselo.
El próximo debate será, por tanto, menos binario de lo que sugieren las consignas sobre acelerar o ralentizar la inteligencia artificial. La cuestión decisiva será quién puede seguir desarrollando modelos, quién debe asumir el coste de demostrar que son seguros y quién tiene autoridad para modificar las reglas.
