Un ingeniero de Anthropic y OpenAI dimite y alerta del riesgo existencial de la inteligencia artificial
Un ingeniero de software con experiencia en Anthropic y OpenAI ha abandonado su puesto tras advertir sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial. En una publicación en X, el experto asegura que algunas de las personas que impulsan el crecimiento de estos sistemas creen que la IA podría llegar a matar a toda la humanidad antes de que termine esta década.
La afirmación vuelve a poner en primer plano el debate sobre la seguridad de la IA generativa, justo cuando las principales compañías tecnológicas compiten por crear modelos cada vez más capaces. El mensaje no presenta una predicción científica cerrada, sino una advertencia sobre el nivel de riesgo que, según el ingeniero, estarían dispuestos a asumir algunos responsables del sector.
Una advertencia desde dentro de la industria
El profesional sostiene que quienes trabajan en la frontera del desarrollo de la inteligencia artificial son conscientes de que el progreso actual podría desembocar en escenarios extremos. Entre ellos se encontraría la pérdida de control sobre sistemas capaces de operar con una autonomía muy superior a la de las herramientas disponibles hoy.
Su salida de la industria adquiere especial relevancia porque procede de alguien que ha trabajado en dos de las compañías más influyentes del ámbito de la IA. Anthropic y OpenAI desarrollan modelos diseñados para razonar, escribir código, analizar información y ejecutar tareas complejas con una intervención humana cada vez menor.
La preocupación no se centra únicamente en que una máquina cometa errores. El temor de los especialistas en seguridad es que un sistema avanzado pueda perseguir objetivos mal definidos, encontrar formas inesperadas de sortear restricciones o actuar a una velocidad que impida a las personas reaccionar a tiempo.
El debate sobre una IA fuera de control
Los sistemas actuales todavía dependen de centros de datos, supervisión técnica y límites establecidos por sus desarrolladores. Sin embargo, la evolución de los modelos ha ampliado sus capacidades en ámbitos como la programación, la planificación, la investigación y la automatización de procesos.
El salto cualitativo que preocupa a los expertos llegaría si estas herramientas fueran capaces de mejorar sus propios sistemas, coordinar operaciones complejas o acceder de forma autónoma a recursos digitales y físicos. En ese supuesto, un fallo de diseño podría tener consecuencias mucho mayores que las de un chatbot que ofrece una respuesta incorrecta.
La advertencia del ingeniero también apunta a un problema de incentivos. Las empresas compiten por lanzar modelos más potentes y atraer inversión, clientes y talento. Esa presión comercial puede entrar en conflicto con los procesos de evaluación y seguridad, que suelen requerir más tiempo y ralentizar la puesta en el mercado.
La seguridad de la IA, en el centro de la discusión
La industria ha creado equipos especializados en alineamiento, evaluación de riesgos y control de modelos. Su objetivo es conseguir que la inteligencia artificial siga las instrucciones humanas, rechace usos peligrosos y se comporte de manera predecible incluso ante situaciones no contempladas durante el entrenamiento.
El problema es que todavía no existe un método capaz de garantizar por completo ese comportamiento en sistemas futuros. Los modelos pueden presentar capacidades emergentes, responder de forma diferente según el contexto y encontrar estrategias que no habían sido previstas por sus creadores.
Por eso, una parte de la comunidad científica reclama auditorías independientes, pruebas obligatorias antes del lanzamiento y una regulación internacional que establezca límites claros. También se plantea que las empresas publiquen más información sobre los riesgos detectados y sobre las medidas adoptadas para reducirlos.
Una predicción extrema que reabre un debate global
La posibilidad de que la IA provoque la desaparición de la humanidad antes de 2030 es una hipótesis extrema y no constituye un consenso científico. Numerosos investigadores consideran más inmediatos otros problemas, como la desinformación, los sesgos, la destrucción de empleo, la vigilancia masiva o la concentración de poder tecnológico.
Aun así, las declaraciones del ingeniero reflejan una división cada vez más visible dentro del sector. Mientras algunas empresas presentan la inteligencia artificial como una herramienta para resolver grandes desafíos, antiguos empleados y especialistas en seguridad reclaman prudencia ante una tecnología cuyo alcance final todavía se desconoce.
La cuestión ya no se limita a saber qué puede hacer la IA, sino quién decide hasta dónde debe llegar. El ritmo de desarrollo marcará buena parte de la próxima década, pero también lo harán los controles, la transparencia y la capacidad de las instituciones para exigir responsabilidades a quienes diseñan y despliegan estos sistemas.
