El Senado de EE. UU. negocia una ley para bloquear modelos de IA considerados inseguros
Tres senadores estadounidenses trabajan en un proyecto de ley que podría cambiar de forma sustancial la relación entre el Gobierno federal y las compañías que desarrollan inteligencia artificial. El borrador contempla imponer un deber de cuidado a los laboratorios y permitir que el Ejecutivo bloquee el lanzamiento de determinados modelos si considera que presentan riesgos inaceptables.
La iniciativa se aplicaría a los sistemas de IA más avanzados, conocidos habitualmente como modelos frontera. Se trata de modelos capaces de realizar tareas complejas, generar código, operar con cierto grado de autonomía o ayudar en ámbitos sensibles como la investigación científica y la ciberseguridad.
El texto todavía está en fase de negociación y puede cambiar antes de convertirse en una propuesta formal. Sin embargo, sus principios ya apuntan a una intervención pública mucho más directa que las obligaciones de transparencia, documentación o auditoría planteadas hasta ahora.
Tres pilares para controlar los modelos más avanzados
El borrador gira alrededor de tres elementos principales. El primero es la creación de un deber de cuidado para los desarrolladores. Las empresas tendrían que diseñar, entrenar y probar sus modelos con el objetivo de evitar riesgos catastróficos, especialmente aquellos relacionados con armas biológicas o nucleares.
En la práctica, esta obligación exigiría que los laboratorios demostraran que han aplicado medidas razonables para detectar y reducir comportamientos peligrosos antes de publicar un sistema. Entre esas medidas podrían encontrarse las pruebas de seguridad, los límites de uso y la evaluación de las capacidades del modelo en escenarios extremos.
El segundo componente sería la capacidad del Gobierno para impedir el lanzamiento de un modelo concreto. El Ejecutivo podría considerar que un sistema no ofrece garantías suficientes y ordenar que no se ponga a disposición del público o de los clientes. Las empresas tendrían la posibilidad de recurrir la decisión ante los tribunales.
Este mecanismo supondría una intervención similar, en términos generales, a la que ejerce la Administración de Alimentos y Medicamentos de Estados Unidos sobre determinados fármacos. La diferencia es que evaluar un modelo de IA resulta especialmente complejo: sus capacidades pueden cambiar con el entrenamiento, las actualizaciones y la forma en que los usuarios lo utilizan.
El tercer pilar es la llamada preemption, un principio jurídico por el que la normativa federal prevalecería sobre las leyes estatales en determinados ámbitos. En este caso, afectaría a algunos riesgos considerados de alcance nacional, como el uso de la inteligencia artificial para facilitar el desarrollo de armas biológicas o nucleares.
Thune, Cruz y Klobuchar lideran las conversaciones
Las negociaciones están encabezadas por John Thune, líder de la mayoría republicana en el Senado; Ted Cruz, presidente del Comité de Comercio; y Amy Klobuchar, la demócrata de mayor rango en la mesa negociadora.
Klobuchar defiende que los desarrolladores colaboren con especialistas del Gobierno para verificar y probar los modelos. Cruz ha señalado que el trabajo se centra en los riesgos catastróficos relacionados con la biología y la energía nuclear. Thune, por ahora, no ha realizado declaraciones públicas sobre el contenido del borrador.
Las empresas potencialmente afectadas serían los grandes laboratorios estadounidenses capaces de crear modelos frontera, entre ellos Google, Anthropic y OpenAI. La futura norma no tendría necesariamente el mismo alcance para todos los sistemas de IA, sino que se dirigiría a los modelos que superen ciertos umbrales de capacidad o riesgo.
La disputa sobre quién debe hacer las pruebas
Uno de los principales puntos de conflicto procede de Maria Cantwell, la demócrata de mayor rango en el Comité de Comercio que no forma parte del grupo de tres senadores. Cantwell quiere que los modelos sean entregados a laboratorios nacionales y agencias federales de seguridad para someterlos a pruebas independientes.
El borrador actual permitiría, en cambio, que las propias compañías realizaran buena parte de las evaluaciones y presentaran los resultados al secretario de Comercio. Los críticos consideran que este enfoque se parecería demasiado a un estándar voluntario, ya que confiaría en gran medida en los informes elaborados por las empresas interesadas en lanzar los modelos.
La propuesta de Cantwell plantea que los científicos de los laboratorios nacionales tengan acceso directo a los sistemas. La cuestión es relevante porque las pruebas de seguridad no solo deben medir si un modelo produce respuestas dañinas, sino también si puede ocultar capacidades, eludir controles o actuar de forma autónoma en entornos conectados.
La ley federal podría desplazar a las normas estatales
La cláusula de prevalencia federal tendría un impacto importante en estados que han aprobado sus propias normas de inteligencia artificial. California, Nueva York y Colorado han impulsado en los últimos años distintas obligaciones para los desarrolladores, aunque con enfoques y niveles de exigencia diferentes.
Si el Congreso aprobara una norma federal que anulara esas leyes en determinados casos, buena parte de la capacidad regulatoria se trasladaría desde los estados hasta Washington. Las compañías ganarían un marco más uniforme, pero los legisladores estatales perderían margen para establecer requisitos adicionales.
El debate llega en un momento de creciente preocupación por los denominados riesgos existenciales de la IA. Esta expresión describe escenarios extremos en los que sistemas muy avanzados podrían contribuir a la creación de armas de destrucción masiva, desestabilizar infraestructuras críticas o escapar de los mecanismos de control humanos.
Un proyecto con futuro político incierto
La Casa Blanca no está impulsando públicamente esta legislación. La Administración de Donald Trump ha defendido una expansión rápida de la inteligencia artificial y ha mostrado reservas ante las advertencias más alarmistas sobre sus posibles consecuencias. Además, el presidente de la Cámara de Representantes, Mike Johnson, apuesta por celebrar primero una cumbre con el Gobierno y los principales laboratorios.
El calendario también condiciona las negociaciones. La Cámara tiene previsto reunirse durante una semana antes de las elecciones del 3 de noviembre, mientras varios congresistas demócratas reclaman ampliar el periodo de sesiones para aprobar nuevas salvaguardas.
El resultado electoral podría modificar por completo el proyecto. Si los demócratas recuperan la Cámara, podrían impulsar una agenda más exigente en materia de seguridad y supervisión. Si los republicanos mantienen el control, es probable que el Congreso priorice un marco que limite menos a las empresas.
Por ahora, la propuesta plantea una pregunta decisiva para el futuro de la IA: ¿debe poder el Gobierno estadounidense decidir que un modelo es demasiado peligroso para salir al mercado? La respuesta dependerá no solo de los límites legales, sino también de quién tenga los recursos técnicos para evaluar correctamente estos sistemas antes de su lanzamiento.
