Papa León XIV alerta en la Unesco del riesgo de una inteligencia artificial dominada por las potencias
El papa León XIV ha aprovechado su visita a París para advertir sobre los riesgos asociados al uso hegemónico de la tecnología y, en particular, de la inteligencia artificial. Durante su intervención en la Unesco, el pontífice ha señalado que la concentración de estas herramientas en manos de unos pocos actores puede generar nuevas formas de dominación y profundizar las desigualdades entre países y sociedades.
Su mensaje ha situado la tecnología en el centro de un debate político, económico y social que va más allá de la innovación. Para León XIV, el desarrollo de la inteligencia artificial no puede evaluarse únicamente por su capacidad para aumentar la productividad o acelerar procesos. También debe medirse por sus efectos sobre la dignidad humana, la justicia y el equilibrio entre las distintas comunidades.
Una advertencia contra la concentración tecnológica
El pontífice ha alertado de que la inteligencia artificial puede convertirse en un instrumento de poder si su diseño, sus datos y sus infraestructuras quedan bajo el control de un grupo reducido de empresas o Estados. Esa concentración, según su planteamiento, favorecería una relación desigual entre quienes desarrollan la tecnología y quienes dependen de ella.
La preocupación afecta tanto a la capacidad de decisión como al acceso a los beneficios de la innovación. Los países con más recursos pueden imponer estándares, controlar grandes volúmenes de información y marcar el ritmo del desarrollo tecnológico. En cambio, las regiones con menos capacidad económica corren el riesgo de quedar relegadas a un papel meramente consumidor.
En este contexto, la inteligencia artificial no sería solo una herramienta técnica, sino también un factor de influencia internacional. El control de los modelos avanzados, de los centros de datos y de los sistemas automatizados puede reforzar las jerarquías existentes y abrir nuevas vías de dependencia.
La tecnología, al servicio de la persona
El discurso del papa ha insistido en que cualquier avance tecnológico debe mantener a la persona en el centro. La eficiencia, la velocidad o la rentabilidad no deberían convertirse en los únicos criterios para decidir cómo se diseñan y aplican los sistemas de inteligencia artificial.
Esta perspectiva plantea la necesidad de que las decisiones automatizadas sean comprensibles, supervisables y compatibles con los derechos fundamentales. También reclama que las personas puedan conocer cuándo interviene una máquina en procesos que afectan a su empleo, su educación, su salud o su acceso a determinados servicios.
La defensa de la dignidad humana implica, además, prestar atención a quienes pueden quedar excluidos por la transformación digital. La brecha tecnológica no se limita a disponer o no de conexión a internet. También incluye la posibilidad de acceder a formación, participar en la economía digital y beneficiarse de los avances sin quedar sometido a decisiones opacas.
Crítica a la deshumanización del modelo económico
Durante su intervención, León XIV también ha condenado la deshumanización que, a su juicio, acompaña al modelo capitalista favorecido por las potencias imperiales. Su crítica vincula el desarrollo tecnológico con una estructura económica que puede priorizar el rendimiento y la acumulación de riqueza por encima de las necesidades de las personas.
El pontífice ha advertido de que la tecnología no es neutral cuando se utiliza para intensificar la explotación, sustituir el criterio humano sin garantías o convertir cada actividad en una fuente de datos y beneficios. En ese escenario, la innovación puede terminar reforzando un sistema que mide el valor de las personas según su productividad o su capacidad de consumo.
La inteligencia artificial ya se emplea en ámbitos como la selección de personal, la publicidad, las finanzas y la gestión de servicios. Su expansión plantea preguntas sobre quién establece las reglas, qué intereses se incorporan a los algoritmos y qué mecanismos existen para corregir los errores o los posibles abusos.
Un llamamiento a la responsabilidad internacional
El mensaje pronunciado en París plantea la necesidad de una gobernanza tecnológica basada en la cooperación. La regulación de la inteligencia artificial no debería quedar limitada a las grandes potencias ni depender exclusivamente de los intereses de las compañías que desarrollan estas herramientas.
- Garantizar un acceso más equitativo a las capacidades tecnológicas.
- Proteger la privacidad y los derechos fundamentales.
- Exigir transparencia en los sistemas automatizados.
- Mantener una supervisión humana en las decisiones de mayor impacto.
- Evitar que la innovación consolide nuevas formas de dependencia.
La intervención del papa León XIV se suma así a un debate internacional sobre el futuro de la inteligencia artificial y el modelo de sociedad que pretende construir. Su advertencia no rechaza la tecnología, pero sí cuestiona que su evolución se produzca sin límites éticos ni responsabilidad política.
El reto, según la visión expuesta en la Unesco, consiste en lograr que la innovación contribuya al bien común en lugar de ampliar las diferencias entre quienes controlan los recursos y quienes quedan a merced de sus decisiones. La cuestión ya no es únicamente qué puede hacer la inteligencia artificial, sino para quién se desarrolla, quién la gobierna y qué lugar ocupa la persona en ese proceso.
