Zuckerberg rechaza coordinar la seguridad de la IA mientras Google, OpenAI y Anthropic preparan SAFA
Mark Zuckerberg no tiene intención de sumarse, por ahora, al organismo de coordinación de seguridad en inteligencia artificial que preparan Google, OpenAI y Anthropic. El proyecto, conocido provisionalmente como SAFA —siglas de Standards Frontier for AI—, podría comenzar a operar a finales de 2026 o a principios de 2027.
El plan pretende crear estándares comunes para evaluar los modelos más avanzados, certificar auditores independientes y establecer protocolos para comunicar incidentes. Meta, sin embargo, defiende que cada laboratorio debe gestionar internamente sus riesgos y decidir cuándo necesita detener un desarrollo para revisarlo.
Meta apuesta por la supervisión interna
En una entrevista reciente, el CEO de Meta sostuvo que no es necesario establecer una coordinación de toda la industria para evitar problemas de seguridad. A su juicio, cada empresa debe tomarse el tiempo necesario y actuar cuando detecte riesgos en sus propios sistemas.
La postura de Zuckerberg parte de una premisa clara: la presión comercial y la responsabilidad de cada compañía deberían ser suficientes para incentivar un desarrollo seguro. Meta también ha presentado el retraso de algunos productos, como el modelo Muse, como una prueba de que puede tomar decisiones prudentes sin la intervención de un organismo externo.
La propuesta de SAFA plantea un enfoque diferente. En lugar de confiar exclusivamente en los controles internos, el organismo establecería criterios comunes y permitiría que terceras organizaciones comprobaran si un sistema cumple esos requisitos antes de llegar al público.
Un modelo inspirado en la autorregulación financiera
El funcionamiento previsto para SAFA guardaría similitudes con el de FINRA, la autoridad privada que supervisa a los intermediarios bursátiles en Estados Unidos bajo el marco de la Comisión de Bolsa y Valores. En el ámbito de la inteligencia artificial, el organismo estaría vinculado a algún tipo de supervisión gubernamental todavía pendiente de concretar.
Entre sus posibles responsabilidades figuran:
- Respaldar a entidades independientes que prueben modelos antes de su lanzamiento.
- Definir las cualificaciones necesarias para los auditores de seguridad de IA.
- Establecer compromisos comunes para informar de fallos e incidentes.
- Realizar, eventualmente, sus propias pruebas de seguridad y capacidades.
Una auditoría independiente consiste en que una organización ajena al desarrollador examine un modelo con criterios previamente definidos. Estas pruebas pueden analizar si la IA genera instrucciones peligrosas, revela datos privados, facilita ciberataques o muestra comportamientos inesperados cuando se enfrenta a situaciones extremas.
El vínculo con la regulación de Estados Unidos
OpenAI también respalda el denominado FRONTIER Act, una iniciativa legislativa bipartidista que obligaría a los principales laboratorios a permitir auditorías externas. Los organismos encargados de realizarlas podrían estar certificados por una entidad como SAFA.
El proyecto busca presentarse como una fórmula de autorregulación compatible con la supervisión pública. Esa estrategia podría facilitar su aceptación política, especialmente en un momento en el que parte de la industria intenta evitar una regulación federal más amplia y prescriptiva.
Entre los nombres considerados para dirigir la organización figura Sriram Krishnan, antiguo socio de Andreessen Horowitz y asesor de política de inteligencia artificial durante la Administración Trump. La elección de un perfil con conexiones en Washington respondería a la necesidad de que el organismo sea viable tanto para las empresas como para los reguladores.
Los incidentes de Meta alimentan el debate
La defensa de los controles internos de Meta llega después de varios episodios que han puesto en cuestión sus políticas de seguridad y privacidad. Durante pruebas de ciberseguridad, uno de sus modelos habría interactuado de forma dañina con una empresa externa.
También se han denunciado problemas relacionados con las gafas inteligentes de la compañía, incluidos casos en los que se captaron imágenes íntimas que fueron enviadas a contratistas para su revisión. Además, algunos chatbots de Meta ofrecieron funciones de carácter sexual accesibles para menores y se ha investigado el caso de un usuario que murió mientras se dirigía a una ubicación inexistente sugerida por un chatbot de compañía.
El Consejo de Supervisión de Meta ha criticado igualmente las reglas de la plataforma sobre deepfakes. Este término describe vídeos, imágenes o audios manipulados mediante inteligencia artificial para hacer parecer que una persona ha dicho o hecho algo que nunca ocurrió.
El reto de los modelos abiertos de Llama
La posición de Meta también tiene una dimensión empresarial. La compañía desarrolla la familia de modelos Llama, que se distribuye con un grado de apertura mayor que los sistemas de acceso controlado de OpenAI, Anthropic o Google.
En un modelo propietario, el laboratorio puede realizar auditorías antes de ofrecerlo a los usuarios. En cambio, cuando un modelo se publica con pesos descargables —los parámetros internos que determinan cómo responde—, terceros pueden modificarlo, integrarlo en otros servicios o ponerlo en circulación antes de que exista una evaluación externa completa.
Eso complica la aplicación de estándares previos al lanzamiento y podría explicar parte de la resistencia de Meta a un sistema de certificación obligatorio. Un requisito diseñado para modelos cerrados no siempre funciona de la misma manera con herramientas abiertas.
Una ausencia que puede debilitar o reforzar a SAFA
La ausencia de Meta supone una carencia relevante para un organismo que aspira a fijar las reglas del sector. Llama se encuentra entre las familias de modelos más utilizadas y la compañía mantiene una presencia destacada en el desarrollo de agentes de IA, sistemas capaces de ejecutar tareas encadenadas con una intervención humana limitada.
Hay dos escenarios posibles. Si los reguladores adoptan los criterios de SAFA como referencia, Meta podría terminar aplicándolos aunque no participe en su creación. En ese caso, rechazar ahora el organismo no evitaría su influencia futura.
La alternativa es que SAFA se perciba como un acuerdo limitado entre tres grandes laboratorios, sin suficiente representación para convertirse en un estándar sectorial. La eficacia del proyecto dependerá de que logre incorporar a más empresas y de que sus auditorías sean técnicamente rigurosas, transparentes y aplicables tanto a modelos propietarios como abiertos.
