León XIV advierte del poder silencioso de la inteligencia artificial para decidir quién cuenta y quién queda fuera
El papa León XIV ha alertado sobre los riesgos sociales y políticos de una inteligencia artificial capaz de influir en la visibilidad de las personas, el acceso a las oportunidades y la participación en la vida pública. A su juicio, los algoritmos pueden convertirse en una forma sutil de dominio si sus decisiones quedan fuera del control ciudadano.
La advertencia pone el foco en un problema que va más allá de la innovación tecnológica. Los sistemas de IA ya intervienen en procesos como la selección de personal, la concesión de créditos, la difusión de contenidos o la identificación de perfiles de riesgo. Cuando funcionan con criterios opacos, pueden reforzar desigualdades sin que los afectados sepan por qué han sido descartados.
Algoritmos que determinan la visibilidad
El pontífice ha señalado que la inteligencia artificial puede acabar estableciendo quién aparece en los espacios digitales y quién permanece relegado. Esta capacidad afecta tanto a los ciudadanos como a empresas, medios de comunicación, organizaciones sociales y movimientos políticos.
Las plataformas utilizan modelos automatizados para ordenar publicaciones, recomendar vídeos, priorizar noticias o mostrar anuncios. Aunque estas herramientas pretenden personalizar la experiencia, también pueden encerrar a los usuarios en determinados contenidos y limitar el acceso a opiniones distintas.
El riesgo aumenta cuando los criterios que emplea un algoritmo no son comprensibles ni revisables. Una persona puede perder visibilidad, oportunidades laborales o acceso a un servicio por una decisión automatizada que no puede impugnar de manera eficaz.
La privacidad, en el centro del debate
León XIV ha reclamado una protección firme de la privacidad frente a la recopilación masiva de datos. La expansión de la IA depende, en gran medida, de grandes volúmenes de información personal: hábitos de consumo, ubicación, conversaciones, historial profesional, relaciones sociales o comportamiento en internet.
El problema no se limita a la cantidad de datos recopilados, sino también a su uso posterior. Información obtenida con una finalidad concreta puede terminar alimentando sistemas de perfilado, campañas comerciales o decisiones que afectan a derechos esenciales.
Por ello, la privacidad no debería entenderse únicamente como una cuestión individual. También es una condición necesaria para preservar la libertad de pensamiento, la autonomía personal y la posibilidad de participar en la sociedad sin vigilancia permanente.
Leyes firmes y supervisión independiente
Ante este escenario, el Papa ha defendido la necesidad de contar con leyes claras y mecanismos de vigilancia independientes. La regulación debe establecer responsabilidades concretas para las empresas y administraciones que desarrollen o utilicen sistemas de inteligencia artificial.
Entre las garantías necesarias figuran la transparencia sobre el funcionamiento de los modelos, la evaluación de sus posibles sesgos y el derecho a recibir una explicación cuando una decisión automatizada tenga consecuencias relevantes. También resulta esencial que exista supervisión humana real, no meramente formal.
- Auditar los sistemas de IA antes y después de su puesta en funcionamiento.
- Identificar y corregir sesgos que puedan perjudicar a colectivos vulnerables.
- Garantizar vías de reclamación frente a decisiones automatizadas.
- Limitar la recopilación de datos a los estrictamente necesarios.
- Impedir que intereses comerciales o políticos queden por encima de los derechos fundamentales.
Impacto en el trabajo, la familia y la democracia
La preocupación también alcanza al mercado laboral. La automatización puede mejorar la productividad, pero plantea dudas sobre la estabilidad de numerosos empleos y sobre el valor que se concede a las capacidades humanas. León XIV ha pedido que la innovación no se traduzca en una pérdida de dignidad ni en una mayor precarización.
La tecnología también transforma la vida familiar y las relaciones personales. La dependencia de asistentes digitales, sistemas de recomendación y plataformas diseñadas para captar la atención puede reducir el tiempo dedicado a la conversación, el cuidado y la convivencia.
En el ámbito democrático, la inteligencia artificial facilita la creación de contenidos falsos, la manipulación de audiencias y la segmentación política extrema. Las campañas automatizadas pueden adaptar mensajes para influir en grupos concretos sin que el resto de la sociedad conozca qué se está difundiendo ni con qué objetivo.
Una cuestión de responsabilidad colectiva
El mensaje de León XIV plantea que el debate sobre la inteligencia artificial no puede quedar reservado a ingenieros, empresas tecnológicas o gobiernos. Ciudadanos, trabajadores, educadores y organizaciones sociales deben participar en la definición de los límites de una tecnología con capacidad para reorganizar la vida cotidiana.
El reto consiste en aprovechar las ventajas de la IA sin aceptar como inevitables sus efectos más perjudiciales. Para ello será necesario combinar innovación, derechos y control democrático. La tecnología, en definitiva, no debería decidir quién puede ser visto, escuchado o tenido en cuenta sin que existan reglas públicas y mecanismos eficaces de rendición de cuentas.
