La alerta de un investigador sobre la IA obliga a mirar más allá del apocalipsis
La dimisión de Jacob Coxon, investigador de Anthropic, ha reabierto una pregunta incómoda para la industria tecnológica: ¿qué está haciendo el sector para evitar que una inteligencia artificial avanzada llegue a poner en peligro la supervivencia humana?
Coxon sostiene que las empresas están restando importancia a ese riesgo. Su advertencia llega en un momento de expansión acelerada de los sistemas de inteligencia artificial, con modelos cada vez más capaces y una carrera empresarial marcada por la inversión, la competencia y la presión por lanzar nuevos productos.
El debate no gira únicamente en torno a si la IA puede destruir a la humanidad. También plantea qué ocurre con los otros escenarios posibles: desde una tecnología sometida a controles eficaces hasta una herramienta que cause daños graves sin necesidad de provocar una catástrofe global.
Una probabilidad difícil de medir
La estimación de que existe una posibilidad entre cinco de que la inteligencia artificial acabe con la humanidad funciona como una señal de alarma, pero no como una predicción científica cerrada. No existe un método aceptado que permita calcular con precisión una cifra de ese tipo.
El problema es que los riesgos dependen de demasiadas variables: la capacidad de los futuros modelos, el acceso que tengan a infraestructuras críticas, la intervención humana, la seguridad de los sistemas y la respuesta de los gobiernos. Una pequeña modificación en cualquiera de esos factores puede alterar por completo el resultado.
Aun así, la ausencia de certeza no elimina la responsabilidad. En otros ámbitos de alto riesgo, como la energía nuclear, la aviación o la industria farmacéutica, las decisiones no se toman esperando a disponer de garantías absolutas. Se imponen controles porque las consecuencias de un fallo pueden ser extraordinarias.
El riesgo no tiene que ser existencial para ser grave
Reducir la discusión a la extinción humana puede resultar contraproducente. Mientras expertos y empresas debaten sobre escenarios extremos, ya existen problemas concretos relacionados con la IA: fraudes automatizados, campañas de desinformación, discriminación algorítmica, vigilancia masiva y pérdida de privacidad.
También preocupa la capacidad de estos sistemas para generar código, operar herramientas digitales o producir contenidos a gran escala. Cuanto más autónomos son, más difícil resulta atribuir responsabilidades cuando se equivocan o cuando alguien los utiliza con fines delictivos.
La seguridad de la inteligencia artificial no debería medirse solo por si puede destruir el mundo. También debe evaluarse por el daño que puede causar a personas concretas, empresas, instituciones y democracias si se despliega sin supervisión suficiente.
La tensión entre seguridad y negocio
Las compañías que desarrollan los modelos más avanzados se encuentran ante un conflicto evidente. Necesitan invertir en investigación sobre seguridad, evaluación y control, pero también compiten por clientes, talento y cuota de mercado.
Ese choque de intereses alimenta las críticas de quienes creen que las promesas de autorregulación no son suficientes. Una empresa puede tener equipos dedicados a la seguridad y, al mismo tiempo, mantener incentivos para acelerar los lanzamientos y asumir riesgos que no asumiría una autoridad pública.
La salida de un investigador especializado puede interpretarse como una discrepancia individual, pero también como un síntoma de una preocupación más amplia: la dificultad de mantener una cultura de prudencia en una industria que premia la velocidad y la escala.
Qué hacer con las otras cuatro posibilidades
Si se acepta, aunque sea como hipótesis, que existe un riesgo extremo, la respuesta no puede limitarse a discutir la cifra. La cuestión esencial es cómo reducirla y cómo prepararse para los escenarios menos dramáticos, pero igualmente dañinos.
- Evaluaciones independientes: los modelos más potentes deberían someterse a pruebas externas antes de su despliegue.
- Controles de acceso: las capacidades con potencial de causar daños graves deben estar limitadas y supervisadas.
- Responsabilidad legal: las empresas tienen que responder por los fallos previsibles de sus productos.
- Transparencia: los incidentes de seguridad y los resultados de las pruebas no pueden quedar ocultos por razones comerciales.
- Cooperación internacional: las reglas no deberían depender únicamente de la voluntad de cada compañía o país.
El consejero delegado de Anthropic, Dario Amodei, se ha situado en el centro de este debate por la posición de la empresa sobre los riesgos de la inteligencia artificial avanzada. La discusión demuestra que incluso dentro del sector existen visiones enfrentadas sobre el nivel de peligro y la velocidad adecuada para avanzar.
Una decisión política, no solo tecnológica
La inteligencia artificial no es únicamente una cuestión de ingenieros. Decidir qué riesgos son aceptables, quién puede utilizar determinados sistemas y qué límites deben imponerse corresponde también a los gobiernos, los parlamentos y la sociedad.
Esperar a que exista una prueba definitiva de una amenaza global sería una estrategia irresponsable. Pero aceptar cualquier cifra alarmante sin someterla a análisis también puede conducir a decisiones equivocadas. Entre el optimismo ciego y el catastrofismo hay un espacio para la supervisión, la evidencia y la prevención.
Las cuatro posibilidades restantes importan tanto como la peor. Una IA segura, controlable y útil no aparecerá por accidente: exigirá reglas exigentes, controles verificables y una industria dispuesta a aceptar que no todo lo técnicamente posible debe ponerse inmediatamente en circulación.
