El CEO de Anthropic pide una gobernanza conjunta para una IA demasiado estratégica para quedar en manos privadas
El debate sobre quién debe controlar el desarrollo de la inteligencia artificial avanzada ha dejado de ser una cuestión exclusiva de las empresas tecnológicas. Dario Amodei, consejero delegado de Anthropic, considera que resulta cada vez más difícil justificar que los modelos de IA más potentes estén desarrollados y gestionados únicamente por compañías privadas.
Su propuesta no pasa por entregar Anthropic al Gobierno de Estados Unidos ni por nacionalizar la industria. Amodei defiende una gobernanza conjunta en la que participen los gobiernos, las empresas y, de forma indirecta, la sociedad. El objetivo sería establecer reglas comunes sobre seguridad, supervisión, inversiones estratégicas y ritmo de lanzamiento de nuevos modelos.
Una tecnología que ya se considera infraestructura crítica
Los modelos de inteligencia artificial son sistemas entrenados con enormes cantidades de datos para comprender y generar texto, imágenes, código, audio u otros contenidos. Los más avanzados requieren miles de chips especializados, centros de datos de gran tamaño y un consumo energético considerable.
Esta dependencia tecnológica ha convertido a la IA en un asunto de seguridad económica y nacional. Estados Unidos y China compiten por dominar la fabricación de semiconductores, el acceso a la computación avanzada y las aplicaciones militares, científicas e industriales de estos sistemas.
En este contexto, Amodei sostiene que la IA ya no puede analizarse como un producto digital más. El desarrollo de modelos cada vez más capaces exige inversiones de miles de millones de dólares y una infraestructura que depende, en buena medida, de permisos, energía, redes de telecomunicaciones y financiación pública o regulada.
El dilema: beneficios privados y riesgos públicos
La posición del CEO de Anthropic plantea una pregunta incómoda: ¿quién debe asumir los riesgos si la tecnología se vuelve peligrosa, pero los beneficios económicos permanecen principalmente en manos de las empresas?
Los laboratorios de IA aseguran que sus modelos pueden aumentar la productividad, acelerar la investigación científica y crear nuevas industrias. Al mismo tiempo, advierten de posibles usos maliciosos, fallos difíciles de controlar y capacidades que podrían afectar a la ciberseguridad, la desinformación o la estabilidad de sectores estratégicos.
En el lenguaje de la industria, una parte de estas preocupaciones se relaciona con la llamada IA avanzada: sistemas capaces de resolver tareas complejas, utilizar herramientas y trabajar durante periodos prolongados con un grado creciente de autonomía. En el horizonte aparece también la inteligencia artificial general, o AGI, un concepto todavía sin una definición técnica consensuada que describe una IA con capacidades comparables o superiores a las humanas en una gran variedad de ámbitos.
La posibilidad de que estos sistemas se vuelvan difíciles de supervisar es uno de los argumentos que utilizan algunos ejecutivos para reclamar una mayor intervención institucional. Sin embargo, esa misma incertidumbre hace que otros expertos cuestionen si las compañías deben tener tanta influencia a la hora de diseñar las reglas del sector.
Amodei no quiere abandonar el desarrollo privado
La propuesta contiene una contradicción evidente. Anthropic considera que determinados modelos pueden entrañar riesgos importantes, pero también mantiene su intención de seguir desarrollando y comercializando sistemas cada vez más avanzados.
Amodei no plantea que el Gobierno sustituya a la empresa ni que la compañía deje de tomar decisiones sobre sus productos. Su planteamiento consiste en que las autoridades tengan un papel más claro en la definición de estándares de seguridad, auditorías, controles de exportación y condiciones para desplegar modelos especialmente potentes.
Ese equilibrio permitiría, según esta visión, mantener la innovación privada sin dejar que una única compañía marque por sí sola los límites de una tecnología con consecuencias globales. También abriría la puerta a acuerdos internacionales, una cuestión especialmente compleja porque los gobiernos compiten entre sí por el liderazgo en inteligencia artificial.
La carrera tecnológica dificulta cualquier acuerdo
El problema es que ningún actor quiere frenar mientras teme que sus rivales continúen avanzando. Las empresas buscan mantener su ventaja comercial y los gobiernos consideran que reducir el ritmo puede tener un coste económico, militar y geopolítico.
Ese escenario genera una carrera en la que la seguridad compite con la velocidad. Cada nuevo modelo puede ofrecer mejoras relevantes, pero también exige más potencia de cálculo, más datos y mayores controles. Establecer cuándo es necesario detener un lanzamiento o someterlo a una revisión pública no resulta sencillo.
La situación recuerda, aunque con diferencias importantes, a otros sectores considerados demasiado relevantes para dejarlos caer. Tras la crisis financiera de 2008, varios gobiernos intervinieron para evitar el colapso de entidades privadas cuya quiebra podía afectar a toda la economía. En la IA, el debate aparece antes: se discute cómo repartir el control y la responsabilidad mientras la industria continúa creciendo.
Qué podría aportar el Estado
Una participación pública más intensa podría traducirse en financiación para investigación independiente, supervisión de los centros de datos, requisitos de transparencia y protocolos comunes para evaluar los riesgos de los modelos. También permitiría coordinar la respuesta ante incidentes y limitar el acceso a determinadas capacidades cuando exista una amenaza demostrada.
Pero la intervención pública también plantea dudas. Si el Estado asume parte del coste de la infraestructura o facilita el acceso a energía, chips y capital, debería exigir condiciones claras a cambio. De lo contrario, el respaldo público podría terminar reforzando la posición de unas pocas empresas sin garantizar un reparto equilibrado de los beneficios.
La propuesta de Amodei sitúa así el debate en un punto decisivo: la inteligencia artificial puede seguir siendo una industria privada, pero sus consecuencias ya afectan a intereses colectivos. La cuestión no es solo quién construirá los próximos modelos, sino quién decidirá cómo se utilizan, quién los supervisará y quién responderá si algo sale mal.
