La encíclica Magnifica Humanitas, primera del Papa León XIV, dedicada a la “custodia de la persona humana en el tiempo de la Inteligencia Artificial”, publicada el 25 de mayo de 2026, llega en un momento oportuno, generando un debate que, mas allá de su dimensión religiosa, tiene un valor que, sin aportar recetas técnicas ni tratar de frenar la innovación, nos recuerda algo que ya habíamos propuesto en algunos foros, como en el “Comité de Impulso del día de Internet”, o en algunos artículos de esta página (ejemplo el dedicado a los principios éticos de la IA). La creciente fascinación por esta moderna tecnología está afectando a un principio fundamental que parece no tenerse en cuenta e incluso olvidarse: la IA no debe medirse solo por su capacidad, sino por el tipo de humanidad que ayuda a construir.

En este contexto, dado que el documento es especialmente relevante para quienes observamos la tecnología desde una perspectiva humana, después de una lectura en profundidad deduzco que encaja perfectamente en la filosofía de mi página web, destinada a reflexionar sobre la sociedad digital con el objetivo de fomentar una tecnología con sentido humano, centrada en las personas. Por ello, como resultado de esa lectura dedico este post a reflexionar sobre su contenido y alcance con un enfoque analítico exento de cualquier otra connotación, religiosa o laica, asumiendo el riesgo de expresar en pocas líneas el importante contenido de un extenso documento.

Desarmar la Inteligencia Artificial

La publicación de Magnifica Humanitas, la encíclica del papa León XIV sobre la Inteligencia Artificial, merece atención más allá de su ámbito religioso y doctrinal. El documento aborda la IA como una de las grandes transformaciones de nuestro tiempo y la sitúa en continuidad con la tradición iniciada con la Rerum Novarum, de su predecesor León XIII, que respondió en su día a los efectos de la revolución industrial abriendo también un amplio debate sobre las consecuencias sociales de un progreso que en el caso de hoy en día no solo nos supera en su magnitud sino que que avanza mas rápido que nuestra propia capacidad de gobernarlo.

Hoy la tecnología es muy distinta, pero la inquietud es similar; lo importante no es saber qué puede hacer la inteligencia artificial, sino qué debe hacer, quién lo decide, con qué límites y para beneficio de quién. Esa es quizás la cuestión más urgente que el Papa León XIV plantea en un debate que nos compete a todos, seamos creyentes o no: la propuesta mas potente del texto, utilizando sus propias palabras, es la llamada a «desarmar la IA», algo que aparentemente puede parecer exagerado pero que apunta a un problema real: la inteligencia artificial no es una herramienta neutra cuando se integra en decisiones sobre trabajo, educación, salud, información, seguridad o guerra.

El objetivo no es otro que lo que venimos repitiendo con frecuencia, y así lo expresamos en diferentes entornos: recolocar al ser humano en el centro del diseño tecnológico mediante la gobernanza ética de la Inteligencia Artificial.

Dimensiones humanas y sistémicas de la Inteligencia Artificial

La encíclica no es un documento general que trate a la IA como una simple herramienta o un mero asunto técnico si no que se aborda como un fenómeno sistémico que afecta a toda la sociedad. Es un manifiesto sobre la era digital donde el Papa estructura su reflexión sobre la IA a partir de varias áreas, a modo de bloques sistémicos, que estimo conviene detallar porque, caracterizando el impacto real de los sistemas inteligentes en la vida social, actualmente están siendo impactados, alterados o amenazados por el desarrollo de la Inteligencia Artificial.

La Magnifica Humanitas trata estos bloques temáticos mediante una estructura donde, a pesar de aparecer distribuidos por diferentes capítulos, están todos conectados por un eje central: la defensa de la dignidad humana frente a lo que el Papa denomina la «cultura del poder» de la era tecnológica.

En los siguientes apartados sintetizo cada uno de los temas manteniendo el enfoque analítico al que aludí anteriormente.

  • Dignidad humana

    Este bloque aparece principalmente en el Capítulo Segundo (“Fundamentos y principios de la Doctrina Social de la Iglesia”) y reaparece en toda la encíclica.

    Presenta la dignidad como algo innato, que no se adquiere ni debe ganarse o ser demostrada y es igual e inalienable para toda persona, considerando la legitimidad de la IA solamente si preserva la dignidad individual evitando su reducción a dato o patrón de comportamiento.

  • Poder

    Se aborda sobre todo en el Capítulo Tercero (“Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA») y en el Capítulo Quinto (“La cultura del poder y la civilización del amor”).

    No se refiere al poder político tradicional sino al tecnocrático, analizando la concentración de poder en plataformas digitales, algoritmos y sistemas de IA, advirtiendo del riesgo de que quien controle la infraestructura tecnológica, los modelos y los datos puede influir en valores, decisiones y formas de vida.

  • Trabajo

    Aparece ya en el Capítulo Primero («Un pensamiento dinámico fiel al Evangelio») al repasar la doctrina social de la Iglesia, recordando como la Rerum Novarum situó en el centro de reflexión “la dignidad del trabajo”. Pero su expresión fundamental se encuentra en el Capítulo Cuarto («Custodiar lo humano en la transformación. Verdad, trabajo y libertad») concretamente en la Sección “La dignidad del trabajo en la transición digital”.

    En el documento el Papa considera el trabajo como una dimensión fundamental de la experiencia humana, mostrando su preocupación por el desempleo debido a la automatización y reconociendo el potencial transformador de la IA demanda políticas que aseguren un trabajo digno y una transición justa, evitando que la eficiencia se imponga sobre el bienestar.

  • Educación

    Se contempla en el Capítulo Cuarto («Custodiar lo humano en la transformación. Verdad, trabajo y libertad») especialmente en las Secciones: “Una alianza educativa para la era digital” y “Rol central de la escuela”

    En ellas no se trata de la educación en general sino del peligro de sustituir el proceso educativo por la cultura de la inmediatez. En una época en la que la verdad suele verse supeditada a intereses y estrategias comunicativas, el mundo de la educación adquiere una importancia decisiva.

    Considerando la escuela como un lugar donde aprender a buscar la verdad y a cuestionar el sentido de la vida y la dignidad de la persona, defiende el pensamiento crítico, la formación ética y la capacidad de discernimiento, subrayando la necesidad de una educación y alfabetización que forme para tener criterio, interpretar sistemas complejos y sostener la autonomía personal en entornos altamente automatizados.

  • Guerra

    Se dedica por completo el Capítulo Quinto («La cultura del poder y la civilización del amor») con especial énfasis en las Secciones “La normalización de la guerra”, “Armas e IA” y “La crisis del multilateralismo”.

    En ellas se ve la guerra como el punto más extremo de la cultura del poder considerando urgente pasar de esta a una auténtica cultura de la negociación, defendiendo la diplomacia y el multilateralismo.

    Asimismo se condena el uso de la IA en sistemas militares y armas autónomas demandando que el desarrollo y el uso de la IA en el ámbito bélico estén sujetos a las restricciones éticas más rigurosas y al respeto de la dignidad humana y de la sacralidad de la vida, evitando una carrera armamentista.

    Finalmente destacar que el documento llega a declarar que la doctrina tradicional de la «guerra justa» ha sido superada en la era de los sistemas autónomos pues la humanidad cuenta con instrumentos mucho más eficaces y capaces de promover la vida humana para afrontar los conflictos, como el diálogo, la diplomacia y el perdón.

  • Datos

    Contemplados principalmente en el Capítulo Tercero («Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA»), donde se subraya que la IA “no es neutra” porque refleja a quienes la diseñan y utilizan, es decir manifiesta los sesgos de desarrolladores y usuarios, y critica la tendencia a reducir a las personas a datos procesables, alertando sobre riesgos de manipulación, vigilancia y pérdida de privacidad e identidad.

    Asimismo, al advertir sobre las nuevas formas de control social, propone que los datos y el conocimiento generado por la IA deben considerarse un «bien común de la humanidad» y no propiedad privada, exigiendo regulaciones internacionales que pongan freno a la desinformación algorítmica.

  • Bien común

    Este último bloque se desarrolla explícitamente en el Capítulo Segundo (“Fundamentos y principios de la Doctrina Social de la Iglesia”), dentro de la Sección «Los principios de la Doctrina Social de la Iglesia”, especialmente en su subapartado “El principio del bien común”, apareciendo además a lo largo de toda la encíclica.

    Define el bien común como algo más que la suma de intereses individuales, presentándolo como criterio rector para evaluar el despliegue de la IA: acceso equitativo, protección de colectivos vulnerables, control público del uso de datos y tecnologías, supervisión independiente y diseño institucional que evite que los beneficios queden concentrados en grupos de poder o sean la única norma o requisito.

    Asimismo en la encíclica se afirma que la innovación sólo es legítima cuando favorece el desarrollo humano integral de todos. En esta era digital, la paz, la verdad, el trabajo digno y la regulación tecnológica deben ser las expresiones concretas del bien común.

Claves éticas para el futuro tecnológico

Diseccionando el largo texto de la encíclica bajo la lupa de tecnología humana, destaco tres conceptos directamente relacionados con la ética de la IA que considero, al igual que ya he expresado en otros foros, como algunos de los principios fundamentales para el diseño, desarrollo y uso responsable de estos sistemas inteligentes.

  • Transparencia algorítmica

    Si bien en la encíclica no se utiliza este término técnico, tan en boga actualmente, en ella se insiste que los sistemas de IA deben ser comprensibles, auditables y no opacos, evitando cajas negras que escapan al control humano, garantizando procesos verificables y asegurando que las decisiones automatizadas puedan ser explicadas.

    En definitiva, alude a la capacidad de comprender cómo un algoritmo o sistema de IA toma decisiones y que los usuarios, reguladores y desarrolladores puedan conocer los criterios, datos y procesos utilizados por la IA, es decir, lo que hoy se denomina transparencia algorítmica.

  • Responsabilidad en el diseño

    En la encíclica, el Papa afirma que la responsabilidad moral de la tecnología es de quien la diseña, por lo que los desarrolladores deben asumir responsabilidad ética desde el inicio. Y subraya que la ética no puede añadirse “al final”, que los diseñadores deben anticipar riesgos y que las empresas no pueden “diluir la responsabilidad” en el algoritmo.

    Esto coincide plenamente con el principio moderno de responsabilidad en el diseño.

  • Impacto humano de la automatización

    De forma muy explícita la encíclica analiza como la IA y la automatización afectan a personas y a la sociedad dedicando varias citas a temas como el riesgo de desempleo masivo, la precarización de los trabajadores que son invisibles para la economía digital, la necesidad de proteger la dignidad laboral y la obligación de que la automatización no deje a nadie atrás.

    Incluso advierte sobre “nuevas formas de esclavitud digital”, refiriéndose a trabajos mal pagados y ocultos que sostienen la IA. Todo ello contribuye a aumentar la brecha digital que está afectando a diversos sectores de la sociedad.

Reflexiones

A lo largo del documento, León XIV utiliza repetidamente una metáfora para destacar el contraste entre «construir Babel» (poder centralizado, uniformidad, control e instrumentación) o «reconstruir Jerusalén» (comunidad, bien común y pluralismo tecnológico).

Este contraste entre Babel y Jerusalén no es simplemente religioso o simbólico. En el ámbito de la IA y la automatización, el Papa plantea en la encíclica preguntas decisivas, que no pueden eludirse: ¿Hacia dónde vamos? ¿Hacia qué meta deseamos orientarnos? ¿Qué dirección elegir como comunidad humana y como pueblos?

El peligro de la IA no es que sea demasiado inteligente, sino que su gobernanza sea demasiado babilónica. El debate ético no es «tecnología sí o tecnología no», sino qué modelo estamos construyendo: ¿Una torre de control centralizada que uniformiza la mente humana, o una ciudad abierta y plural donde la técnica esté al servicio del bien común?

Magnifica Humanitas nos invita a optar por la segunda vía, viviendo con responsabilidad en la era de la IA y promoviendo su evolución respetando la dignidad humana, la justicia social y el bien común.

🖥️ Ilustración conceptual de portada co-generada con Inteligencia Artificial para ilustrar el paradigma de Babel.