León XIV reclama una inteligencia artificial fiable y al servicio de las personas
El papa León XIV ha centrado su reflexión sobre el futuro de la inteligencia artificial en una idea que va más allá de la carrera tecnológica: la necesidad de desarrollar sistemas seguros, comprensibles y sometidos a la responsabilidad humana. En su mensaje, el pontífice ha defendido que la innovación no puede medirse únicamente por la potencia de los modelos o por su capacidad para ejecutar tareas cada vez más complejas.
Un sistema fiable debe estar por encima de un sistema extraordinariamente potente si sus consecuencias no pueden preverse, ha señalado. La advertencia llega en un momento de expansión acelerada de la IA generativa, la automatización y las herramientas capaces de tomar decisiones con una intervención humana limitada.
La fiabilidad, por delante de la potencia
La reflexión de León XIV plantea una cuestión central para el debate tecnológico: qué criterios deben guiar el desarrollo de la inteligencia artificial. La velocidad, el rendimiento o la capacidad de procesar grandes volúmenes de información no bastan si las personas no pueden entender cómo actúa un sistema ni anticipar sus efectos.
En este contexto, la fiabilidad implica que la IA funcione de forma consistente, que sus límites sean conocidos y que existan mecanismos para corregir sus errores. También exige que las decisiones con impacto sobre la vida de las personas puedan ser revisadas y, cuando sea necesario, anuladas por responsables identificables.
El pontífice ha situado así la supervisión humana en el centro de la conversación. El avance tecnológico, según esta perspectiva, debe reforzar la dignidad y la libertad de las personas, no sustituirlas en ámbitos donde están en juego derechos fundamentales o decisiones irreversibles.
Un llamamiento ante la reunión de Ginebra
León XIV ha dirigido además una petición a los Estados que se reunirán en Ginebra el próximo mes de noviembre. El papa les reclama que adopten pasos concretos hacia la prohibición de las armas autónomas letales, sistemas capaces de seleccionar y atacar objetivos sin una decisión humana directa en el momento del uso de la fuerza.
La cuestión ocupa un lugar destacado en las discusiones internacionales sobre inteligencia artificial y seguridad. La posibilidad de delegar en una máquina decisiones relacionadas con la vida y la muerte plantea dudas jurídicas, éticas y estratégicas que no pueden resolverse únicamente mediante avances técnicos.
Entre las principales preocupaciones se encuentran la dificultad para atribuir responsabilidades cuando un sistema comete un error, el riesgo de que una decisión automatizada provoque una escalada militar y la falta de garantías para distinguir correctamente entre objetivos. También preocupa que estas tecnologías reduzcan el umbral para iniciar o intensificar un conflicto.
La responsabilidad no puede quedar diluida
El debate sobre las armas autónomas letales está estrechamente relacionado con una cuestión más amplia: quién responde cuando una inteligencia artificial causa un daño. Para el planteamiento defendido por el pontífice, la responsabilidad no puede desaparecer detrás de un algoritmo, de una cadena de datos o de una decisión tomada por un sistema opaco.
Las autoridades, las empresas tecnológicas y las organizaciones que desarrollan o utilizan estas herramientas deben establecer límites claros. Entre ellos se incluyen la supervisión humana efectiva, la trazabilidad de las decisiones, las evaluaciones de riesgo y la posibilidad de detener un sistema cuando su comportamiento se aparte de lo previsto.
- Supervisión humana: las decisiones críticas deben permanecer bajo control de personas responsables.
- Transparencia: los sistemas tienen que ofrecer información suficiente sobre sus criterios y limitaciones.
- Rendición de cuentas: debe ser posible identificar quién responde por los daños ocasionados.
- Límites internacionales: los Estados deben acordar normas comunes para evitar usos especialmente peligrosos.
Una tecnología al servicio del bien común
El mensaje de León XIV no rechaza la inteligencia artificial ni sus posibilidades. Su enfoque pone el acento en el propósito con el que se diseña y se utiliza. La IA puede contribuir a mejorar la investigación, la educación, la salud o la productividad, pero sus beneficios dependerán de que el desarrollo tecnológico vaya acompañado de garantías sociales y democráticas.
La advertencia resulta especialmente relevante ante la proliferación de sistemas que generan contenidos, recomiendan decisiones o actúan de forma autónoma en entornos cada vez más amplios. Cuanto mayor sea la capacidad de una herramienta, mayor debe ser también el control sobre sus objetivos, sus datos y sus consecuencias.
La reunión de Ginebra será, por tanto, una nueva oportunidad para que los Gobiernos pasen de las declaraciones generales a compromisos verificables. La petición del papa apunta a una cuestión que trasciende la religión y afecta al conjunto de la sociedad: qué límites está dispuesta a establecer la humanidad antes de entregar a las máquinas decisiones que no puede deshacer.
En esa disyuntiva, León XIV defiende una idea sencilla pero decisiva para el futuro de la inteligencia artificial: la confianza debe construirse antes de ampliar el poder de los sistemas. La innovación, sostiene, solo será verdaderamente valiosa si permanece sometida a la dignidad humana, a la responsabilidad y al bien común.
