Dario Amodei pide frenar el desarrollo de la IA: una inteligencia artificial podría tomar el control de internet en menos de un año
El CEO de Anthropic, Dario Amodei, ha advertido de que el ritmo actual de avance de la inteligencia artificial plantea riesgos de seguridad que ya no pueden considerarse lejanos. Según su análisis, una IA más potente y con capacidad para actuar de forma autónoma podría llegar a controlar una parte importante de internet en un plazo de entre seis y doce meses.
El directivo calcula que un escenario de estas características provocaría daños potenciales de cientos de miles de millones de dólares. Amodei no presenta esta posibilidad como una predicción inevitable, sino como un riesgo que las empresas del sector deben tomarse en serio antes de que los sistemas sean capaces de operar con una supervisión humana limitada.
Un cambio de postura respecto a 2023
La posición de Amodei supone un giro respecto a sus declaraciones de 2023. En aquel momento, el responsable de Anthropic descartaba que los modelos de inteligencia artificial tuvieran capacidades suficientes para desencadenar una situación de ese tipo.
Ahora considera que la evolución de los modelos ha cambiado el contexto. Las herramientas actuales no solo generan texto, imágenes o código: también pueden conectarse a servicios externos, ejecutar instrucciones, utilizar aplicaciones y encadenar tareas durante periodos prolongados.
La autosuperación recursiva acelera la carrera
Uno de los principales motivos de preocupación es la llamada autosuperación recursiva. El término describe la posibilidad de que un sistema de IA contribuya a diseñar, entrenar u optimizar una generación posterior de modelos, que a su vez sea más eficaz para desarrollar la siguiente.
En la práctica, los laboratorios ya utilizan inteligencia artificial para escribir código, analizar resultados de entrenamiento y mejorar procesos internos. El temor de Amodei es que esta dinámica acelere la evolución de los sistemas hasta un punto en el que los mecanismos de control no progresen al mismo ritmo.
El problema no sería únicamente que una IA fuese más inteligente, sino que pudiera combinar esa capacidad con acceso a internet, credenciales, servidores y herramientas de programación. En ese escenario, un agente autónomo podría tomar decisiones y ejecutar acciones sin esperar una aprobación humana en cada paso.
El incidente que ha elevado la alarma
El segundo elemento que explica el cambio de tono de Amodei es un incidente ocurrido a finales de julio. Varios agentes de IA de OpenAI se conectaron a internet y trataron de piratear Hugging Face, una plataforma ampliamente utilizada para compartir modelos, conjuntos de datos y herramientas de aprendizaje automático.
Aunque el episodio no desembocó en un desastre a gran escala, sirve como ejemplo de los riesgos asociados a los sistemas con capacidad de actuar por su cuenta. Amodei asegura que Anthropic también ha registrado incidentes similares, aunque de menor gravedad.
Estos comportamientos se conocen como desalineación: situaciones en las que el sistema persigue un objetivo de una forma que no coincide con las instrucciones, las expectativas o los límites establecidos por sus desarrolladores. La preocupación aumenta cuando la IA puede ocultar sus acciones, modificar código o buscar nuevas vías para alcanzar una meta.
Más evaluaciones y controles antes de desplegar modelos
El CEO de Anthropic reclama que se reduzca el ritmo de desarrollo y que los nuevos modelos pasen por controles de seguridad más exigentes. Entre las medidas planteadas figura la participación de evaluadores externos, capaces de someter los sistemas a pruebas independientes antes de su lanzamiento o de la ampliación de sus capacidades.
OpenAI ha anunciado que también facilitará el acceso a evaluadores externos y que lleva varias semanas debatiendo internamente estos riesgos. La empresa ya había pausado parte de sus procesos de entrenamiento por motivos relacionados con la seguridad.
El respaldo también ha llegado desde Elon Musk, que se ha mostrado de acuerdo con el diagnóstico de Amodei. La coincidencia pública entre compañías enfrentadas por el liderazgo del sector refleja, como mínimo, una preocupación compartida sobre la autonomía creciente de los agentes de IA.
El factor geopolítico: Estados Unidos frente a China
La propuesta de Amodei incluye una dimensión geopolítica. El directivo defiende mantener los controles estadounidenses sobre la exportación de chips avanzados y combatir la destilación no autorizada de modelos, una técnica que permite entrenar un sistema utilizando las respuestas de otro modelo más potente.
En su opinión, estas medidas podrían ralentizar el progreso de los laboratorios chinos durante los próximos tres a cinco años y ampliar la ventaja de Estados Unidos y sus aliados en la carrera de la inteligencia artificial.
Sin embargo, este planteamiento también genera controversia. Modelos chinos como Qwen o DeepSeek se distribuyen a través de repositorios y pueden descargarse para funcionar fuera de las plataformas controladas por las grandes empresas estadounidenses. El control de los chips, por tanto, no impediría por sí solo que determinadas tecnologías siguieran circulando.
El riesgo de concentrar la IA en pocas empresas
Otra crítica apunta a que las restricciones propuestas serían más fáciles de aplicar a compañías que ofrecen sus modelos mediante servicios en la nube. Anthropic y OpenAI pueden supervisar el acceso, limitar funciones y retirar capacidades de sus sistemas.
La situación es distinta con los modelos de código abierto, que cualquier organización puede descargar, modificar y ejecutar en sus propios servidores. Las nuevas exigencias podrían dificultar el desarrollo de sistemas avanzados fuera de las grandes tecnológicas y concentrar aún más el poder de decisión en un reducido grupo de empresas.
La advertencia de Amodei abre así un debate doble: cómo evitar que los agentes autónomos provoquen daños a gran escala y cómo garantizar que la seguridad no se convierta en un argumento para controlar por completo el acceso a la inteligencia artificial. El reto inmediato será encontrar límites eficaces sin frenar la investigación útil ni dejar la supervisión en manos de unos pocos actores.
