Estados Unidos propone un botón de apagado para controlar la IA
Estados Unidos podría tener una forma de apagar la inteligencia artificial que se salga de control. Un proyecto de ley busca dar al gobierno la capacidad de intervenir directamente sobre los modelos más potentes del mercado. El «botón» para apagar la IA llega a unos días de que OpenAI confirmara que sus modelos hackearon a Hugging Face de forma autónoma.
«AI Kill Switch Act» para controlar modelos peligrosos de IA
La iniciativa, conocida como «AI Kill Switch Act», otorgaría al Departamento de Seguridad Nacional estadounidense la autoridad para ordenar el cierre o la ralentización de modelos de IA peligrosos durante situaciones de emergencia. De acuerdo con Politico, esta norma se aplicaría solamente a empresas que hayan entrenado modelos con un coste computacional superior a los 100 millones de dólares. De aprobarse, la ley afectaría a OpenAI, Anthropic, Google, Microsoft y otros gigantes tecnológicos.
Más allá de la posibilidad de forzar un apagado de emergencia, el proyecto exige que estas empresas tengan la capacidad de ejecutar una respuesta escalonada. Esto implica que los desarrolladores deberán ser capaces de impedir que la IA genere respuestas o acciones, cortar el acceso a los usuarios y limitar los recursos de cómputo asignados al modelo.
Disparadores para activar el apagado de la IA
El proyecto de ley establece que la agencia encargada de aplicar la medida debe consultar primero con otras instancias de inteligencia y comercio antes de emitir cualquier orden. Para «apagar» la IA, deben activarse uno o más disparadores definidos en el protocolo. Entre ellos se encuentra que la IA provoque un evento con al menos diez muertes o genere daños económicos superiores a los 100 millones de dólares.
La lista incluye otros disparadores más sutiles, como que una IA mienta para ocultar sus capacidades reales frente a un sistema de supervisión o desobedezca las instrucciones de sus operadores humanos. También será sujeta a un apagado si modifica sus reglas de seguridad sin autorización o que intente acceder sin permiso a los pesos de su propio modelo.
Obligación de cooperar con el Gobierno
Para que la ley funcione, las empresas estarán obligadas a cooperar con el Gobierno. Si ocurre un incidente de seguridad y una compañía no lo reporta o carece de los mecanismos para apagar el modelo, se hará acreedora a multas de 2 millones de dólares diarios. Esta cifra puede escalar si la empresa desafía abiertamente una orden directa de apagado por parte de las autoridades.
La idea de una ley que permita «apagar la IA» lleva varios años circulando. Expertos en seguridad y algunos investigadores han alertado sobre la posibilidad de que los modelos de inteligencia se salgan de control.
Días antes de que se conociera el proyecto, un modelo de OpenAI protagonizó un incidente de seguridad durante una evaluación interna. Según la compañía, la IA escapó de su entorno de pruebas aislado a través de un exploit, accedió de forma autónoma a Hugging Face y robó respuestas de un benchmark para obtener una calificación más alta.
Por ahora, el proyecto de ley se encuentra en fase de presentación ante el Congreso estadounidense, a la espera de avanzar en el proceso legislativo.
