China plantea seis controles para hacer más seguros los modelos de IA de pesos abiertos
China quiere reforzar la seguridad de una de sus principales bazas en la carrera global por la inteligencia artificial: los modelos de pesos abiertos. Varios investigadores del país han propuesto establecer un proceso de seis etapas para evaluar, corregir y verificar los riesgos de estos sistemas antes de ponerlos a disposición del público.
La iniciativa llega en un momento de fuerte competencia tecnológica con Estados Unidos. Mientras los grandes laboratorios estadounidenses tienden a mantener cerrados los componentes internos de sus modelos, China está impulsando sistemas que pueden descargarse y ejecutarse localmente, una estrategia orientada a reducir costes, facilitar la personalización y acelerar su adopción.
Qué son los pesos de un modelo de inteligencia artificial
Los modelos de IA funcionan mediante redes formadas por miles de millones de conexiones matemáticas. Durante el entrenamiento, el sistema analiza enormes cantidades de información y ajusta el valor de esas conexiones para aprender a identificar patrones, generar texto, reconocer imágenes o resolver problemas.
Esos valores numéricos reciben el nombre de pesos. Determinan qué importancia tiene cada conexión en el comportamiento final del modelo. Por eso, compartir los pesos equivale a facilitar una parte esencial de la tecnología que permite a la IA producir sus respuestas.
Los modelos comerciales de compañías como OpenAI, Anthropic o Google suelen distribuirse con los pesos ocultos. El usuario puede interactuar con ellos a través de una aplicación o una API, pero no tiene acceso directo a sus parámetros internos ni puede instalar el sistema por completo en sus propios equipos.
Más libertad para empresas y desarrolladores
En cambio, un modelo de pesos abiertos permite descargar esos parámetros y ejecutar la IA de forma local, siempre que se disponga del hardware necesario. También facilita adaptarla a necesidades concretas, entrenarla con datos propios o integrarla en productos sin depender continuamente de los servidores de una compañía.
Esta fórmula puede abaratar el uso de la inteligencia artificial y ampliar su presencia entre empresas, centros de investigación y administraciones. Además, permite trabajar con información sensible sin enviarla a un proveedor externo, una ventaja relevante en sectores como la sanidad, la industria o las finanzas.
Sin embargo, que los pesos sean accesibles no significa que todo el proyecto sea completamente abierto. El código utilizado para entrenar el modelo, los datos empleados o las herramientas de desarrollo pueden seguir siendo privados. Por tanto, pesos abiertos y código abierto no son conceptos equivalentes.
La estrategia china frente al dominio estadounidense
Estados Unidos continúa destinando grandes inversiones a desarrollar los modelos más avanzados. Sus principales laboratorios suelen mantener un mayor control sobre el acceso y las capacidades de sus sistemas, lo que les permite aplicar filtros, limitar determinadas funciones y actualizar el modelo cuando detectan nuevos riesgos.
China parece haber elegido una vía diferente. Su objetivo pasa por distribuir modelos económicos, accesibles y fáciles de adaptar para conseguir una implantación masiva. Cuanto más extendido está un modelo, mayor es su valor para crear un ecosistema de aplicaciones, servicios y empresas alrededor de esa tecnología.
Esta política también puede servir para reducir la dependencia de soluciones estadounidenses. La disponibilidad de modelos locales permite a las compañías chinas desarrollar productos sobre infraestructuras propias y competir en mercados donde el precio, la capacidad de personalización o la posibilidad de operar sin conexión son factores decisivos.
El problema: una vez descargado, el control se reduce
La apertura de los pesos plantea un reto importante. Cuando un modelo cerrado funciona en los servidores de su creador, el laboratorio puede decidir qué solicitudes bloquea y qué cambios introduce. Con un modelo descargable, esa capacidad de supervisión disminuye de forma considerable.
Un usuario puede modificar el sistema, volver a entrenarlo con otros datos o debilitar sus mecanismos de seguridad. También puede crear una versión derivada y distribuirla sin que el desarrollador original pueda controlar completamente su uso. En determinados escenarios, esto podría facilitar fraudes, campañas de desinformación, automatización de ataques informáticos o generación de contenidos peligrosos.
La cuestión no afecta únicamente a China. Cualquier modelo de pesos abiertos puede ser reutilizado en contextos que sus creadores no habían previsto. La diferencia está en que las salvaguardas incorporadas en la versión oficial pueden desaparecer o quedar inutilizadas después de una modificación.
Un proceso de seis fases antes de publicar cada modelo
La propuesta de los investigadores chinos plantea crear un procedimiento sistemático para analizar la seguridad de los modelos antes de su distribución. El proceso comenzaría con una evaluación general de los riesgos asociados al sistema y continuaría con la identificación de sus vulnerabilidades.
Después llegarían las fases de mitigación, destinadas a reducir esos problemas mediante ajustes técnicos, datos adicionales o barreras de seguridad. Por último, los desarrolladores tendrían que verificar que las medidas aplicadas funcionan y documentar los resultados antes de liberar los pesos.
- Evaluación: análisis inicial de las capacidades y riesgos del modelo.
- Identificación: localización de vulnerabilidades y posibles usos indebidos.
- Mitigación: aplicación de medidas para reducir los riesgos detectados.
- Verificación: comprobación de que las protecciones funcionan en distintos escenarios.
- Documentación: registro de las pruebas, limitaciones y decisiones adoptadas.
- Revisión previa a la distribución: evaluación final antes de publicar los pesos.
El planteamiento refleja el intento de crear estándares específicos para la IA de pesos abiertos. El desafío será encontrar un equilibrio entre seguridad y acceso. Si los controles son demasiado estrictos, podrían frenar la investigación y concentrar el poder en unos pocos laboratorios; si son insuficientes, la apertura puede aumentar los riesgos de uso malicioso.
El debate apenas ha comenzado, pero la propuesta china apunta a una tendencia que probablemente se extenderá a otros países: los modelos de inteligencia artificial no solo tendrán que demostrar lo que pueden hacer, sino también qué medidas de seguridad se han aplicado antes de poner sus pesos al alcance de cualquiera.
