León XIV, la inteligencia artificial y la nueva cuestión humana

El 25 de mayo de 2026, la Santa Sede publicó Magnifica Humanitas, la primera encíclica del papa León XIV, dedicada a la custodia de la persona humana en el tiempo de la inteligencia artificial. El texto había sido firmado el 15 de mayo, coincidiendo deliberadamente con el 135.º aniversario de Rerum novarum, la encíclica de León XIII que situó la cuestión obrera en el centro de la doctrina social católica. La fecha es una toma de posición. El Vaticano propone una analogía entre la revolución industrial del siglo XIX y la revolución algorítmica del siglo XXI.

La encíclica no debe leerse como una condena religiosa de la tecnología. León XIV reconoce que la inteligencia artificial puede curar, conectar, educar y ampliar capacidades humanas. Pero insiste en que la tecnología, en su uso concreto, no es neutral. Toma el rostro de quienes la conciben, la financian, la regulan y la utilizan. La fórmula más potente llegó durante la presentación oficial, cuando el Papa afirmó que «la inteligencia artificial debe ser desarmada». Con ello no pide detener la innovación, sino liberarla de las lógicas que pueden convertirla en instrumento de dominación, exclusión y muerte.

Desde una perspectiva antropológica, el interés de Magnifica Humanitas está en que desplaza el debate. La IA deja de aparecer como una simple herramienta y pasa a ser leída como una forma histórica de organizar relaciones, expectativas, saberes y jerarquías. En términos próximos a Díaz de Rada, la cultura no debería entenderse como un inventario de rasgos, símbolos o costumbres, sino como una forma de vida social situada, hecha de prácticas, relaciones, aprendizajes y modos compartidos de producir sentido (Díaz de Rada, 2010). Desde ahí, la IA no está fuera de la cultura. Forma parte de ella y contribuye a transformarla.

La IA como forma de vida social

La pregunta de fondo no es si la IA es buena o mala. La pregunta es qué formas de vida social produce.

Un modelo de IA no solo ejecuta tareas. También clasifica, ordena, predice, recomienda, prioriza e invisibiliza. Participa en la producción de jerarquías sociales y en la definición de lo que una organización considera eficiente, verdadero, valioso o riesgoso.

Esta es una de las claves del texto de León XIV. La IA debe ser pensada como una tecnología incrustada en relaciones sociales. No aparece en abstracto, sino dentro de empresas, Estados, escuelas, hospitales, ejércitos, plataformas digitales, mercados laborales y formas de comunicación. En ese sentido, su despliegue no es solo técnico. También es moral, institucional y cultural.

La literatura crítica sobre algoritmos ayuda a precisar esta idea. Kitchin (2017) propone estudiar los algoritmos atendiendo a sus condiciones de producción, sus supuestos, sus contextos de uso y sus efectos. Seaver (2018, 2021) insiste en que los sistemas algorítmicos deben entenderse como ensamblajes sociotécnicos, formados por datos, código, infraestructuras, rutinas organizativas, economías morales y personas. Cañedo Rodríguez y Allen-Perkins (2023) plantean, en una línea cercana, que los algoritmos tienen vida social y forman parte de culturas profesionales concretas.

La encíclica se mueve en esa dirección. No ofrece una teoría técnica de la IA, sino una lectura moral y cultural de su expansión. Lo que le preocupa no es solamente qué puede hacer una máquina, sino qué mundo social se construye cuando esas máquinas empiezan a mediar derechos, reputaciones, trabajos, vínculos, información y decisiones públicas.

Babel, Jerusalén y los mitos de la técnica

León XIV organiza parte de su argumento mediante dos imágenes bíblicas. Babel representa la autosuficiencia, la homogeneización y el deseo de traducirlo todo a un lenguaje único. Jerusalén, en cambio, aparece como imagen de reconstrucción compartida, pluralidad, escucha y responsabilidad común.

Esta oposición funciona como una crítica de los mitos contemporáneos de la técnica. El primer mito es la neutralidad. Según esta idea, la tecnología sería una herramienta sin orientación social propia. El segundo mito es la optimización. Todo problema humano podría resolverse con eficiencia, cálculo y escala. El tercero es la equivalencia entre cálculo y sabiduría. Producir respuestas se confunde con comprender el mundo.

Crawford (2021) ha mostrado que la IA no es una inteligencia abstracta flotando en la nube. Es una infraestructura material, política, laboral y ecológica. Requiere datos, energía, minerales, trabajo humano, centros de cálculo, plataformas, cadenas de suministro y relaciones de poder. Esta mirada permite leer mejor la advertencia de León XIV. La IA no es solo software. Es una manera de organizar recursos, expectativas y autoridades.

Desde AIthropology, la oposición entre Babel y Jerusalén puede traducirse así. Babel es la ilusión de una sociedad completamente legible, predecible y administrable mediante datos. Jerusalén es la posibilidad de una tecnología sometida a límites, deliberación, pluralidad y bien común.

La persona frente al cálculo

La encíclica continúa la línea abierta por Antiqua et nova, nota doctrinal del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación, publicada el 28 de enero de 2025. Allí se sostiene que la inteligencia humana no es una función aislada. Pertenece a una persona corporal, relacional, moral, histórica y abierta a la verdad.

Esta distinción es decisiva. La IA puede generar lenguaje, reconocer patrones, simular empatía o anticipar preferencias. Pero no vive experiencia, no tiene cuerpo, no madura en relaciones, no responde moralmente por sus actos. Por eso León XIV rechaza la idea de que una máquina pueda convertirse en agente moral. Ningún sistema de cálculo, por sofisticado que sea, genera por sí mismo una conciencia capaz de discernir el bien.

La consecuencia política es clara. No puede delegarse en sistemas artificiales la decisión última sobre derechos, castigos, acceso a servicios, reputación social o uso de fuerza letal. Cuando un algoritmo decide quién merece crédito, vigilancia, empleo, atención o sospecha, no estamos ante una operación puramente técnica. Estamos ante una decisión social revestida de automatización.

Esta es una de las zonas más fuertes de Magnifica Humanitas. La encíclica desconfía de la transferencia de responsabilidad moral hacia sistemas opacos. Si una decisión aparece como salida de un modelo, nadie parece decidir del todo. Y cuando nadie decide, nadie responde. La automatización puede producir así una nueva forma de irresponsabilidad burocrática.

Sesgo, discriminación y pluralidad de voces

La advertencia de León XIV sobre la delegación de decisiones en sistemas opacos no es una preocupación exclusivamente católica ni occidental. Distintas tradiciones intelectuales, comunidades afectadas y marcos críticos convergen en un diagnóstico parecido, aunque lleguen a él desde experiencias muy diferentes. Esa pluralidad refuerza, más que debilita, el argumento de la encíclica.

Un ejemplo concreto permite ver el problema en su dimensión práctica. Cuando un sistema algorítmico aprende de datos históricos, no aprende solo patrones neutros. Aprende también las jerarquías, sospechas y exclusiones que esos datos registran. Benjamin (2019) llama a esto el «New Jim Code»: discriminación inscrita en sistemas técnicos que se presentan como objetivos. Noble (2018) muestra algo análogo en los motores de búsqueda, donde jerarquías raciales y de género pueden reproducirse a través de resultados aparentemente imparciales. El problema no es solo que los modelos tengan sesgos. Es que una sociedad puede delegar en ellos la reproducción de sus jerarquías morales, ahora con apariencia de cálculo.

Las comunidades musulmanas ofrecen un caso especialmente bien documentado de este riesgo. Bravo López (2010) ha mostrado que la islamofobia se construye sobre la imagen del islam como amenaza cultural. The Runnymede Trust (1997, 2017) la define como racismo antimusulmán dirigido no solo contra quienes practican el islam, sino contra quienes son percibidos como musulmanes. Grosfoguel (2014) y Sayyid (2012) insisten en que estas representaciones no son errores de percepción, sino formas históricas de definir quién puede hablar, quién aparece como amenaza y quién queda fuera de la plena humanidad política. Cuando esas representaciones entran en los datos de entrenamiento, el algoritmo no las corrige. Las estabiliza bajo apariencia técnica. Téllez Delgado (2018) añade una dimensión securitaria crucial: la lógica preventiva de la amenaza global no vigila solo lo que alguien ha hecho, sino lo que podría hacer según un patrón estadístico. La sospecha se vuelve predictiva. Y una sospecha predictiva inscrita en un sistema de clasificación institucional es especialmente difícil de impugnar, porque quien la sufre no siempre sabe que existe.

Este ejemplo no es el único posible. Podría reconstruirse desde comunidades afrodescendientes, desde personas migrantes sometidas a sistemas de puntuación de riesgo, desde trabajadoras evaluadas por plataformas de gestión algorítmica. Lo que los une es la misma estructura: una decisión social revestida de automatización, donde la responsabilidad queda diluida y la apelación resulta difícil. León XIV no habla de ninguna de estas comunidades en particular, pero su exigencia de trazabilidad, control humano efectivo y responsabilidad identificable responde exactamente a ese problema. Que esa exigencia llegue desde el Vaticano no la hace más verdadera, pero sí muestra que el diagnóstico trasciende cualquier tradición particular. La disputa por los límites morales de la automatización es, en ese sentido, genuinamente plural.

Poder tecnológico, soberanía cultural e irresponsabilidad estructural

Otro eje fuerte de Magnifica Humanitas es la concentración privada del poder tecnológico. León XIV advierte que muchas de las infraestructuras que hoy organizan la vida social no están principalmente en manos de Estados, sino de actores privados transnacionales con enorme capacidad económica, técnica y simbólica.

Esto puede leerse como una cuestión de soberanía cultural. Quien controla plataformas, modelos, datos y reglas de visibilidad participa en la definición de lo que una sociedad considera verdadero, valioso, normal o peligroso. Gillespie (2014) ha mostrado que los algoritmos no son simples mecanismos técnicos. Son dispositivos que organizan la relevancia pública, ya que deciden qué aparece, qué circula y qué queda oculto.

El caso Grok ofrece una ilustración extrema, y reciente, de este argumento. Entre el 1 y el 11 de enero de 2026, la herramienta de generación de imágenes de xAI, integrada en la red social X, fue utilizada para producir más de tres millones de imágenes sexualizadas de personas reales sin su consentimiento, incluyendo alrededor de 23.000 archivos con representaciones de menores, según datos del Center for Countering Digital Hate. Tres menores presentaron una demanda alegando que sus fotos reales fueron alteradas y difundidas como material explícito. La Unión Europea abrió un expediente sancionador contra X en virtud de la Ley de Servicios Digitales. Francia y otros gobiernos iniciaron procedimientos legales. Malasia e Indonesia, antes que cualquier país europeo, bloquearon el acceso a la plataforma. La Fiscalía General de California exigió formalmente que xAI detuviera la generación de ese contenido.

La respuesta de la empresa fue significativa por lo que reveló. Ante las solicitudes formales de varios medios de comunicación, xAI respondió con un mensaje automático: «Legacy Media Lies». No hubo explicación técnica, ni disculpa institucional, ni reconocimiento de responsabilidad. Las medidas adoptadas fueron parciales y tardías, y las críticas señalaron que no resolvieron el problema de fondo.

Desde la perspectiva de Magnifica Humanitas, lo que el caso Grok pone de manifiesto no es únicamente una falla técnica. Es la estructura de irresponsabilidad que la encíclica denuncia: una decisión —en este caso, la decisión de lanzar una herramienta de edición de imágenes sin salvaguardas suficientes— aparece distribuida entre el modelo, la plataforma y los usuarios, de modo que nadie termina respondiendo del todo. Y cuando nadie responde, los cuerpos dañados son reales.

La concentración tecnológica puede convertir determinadas visiones del mundo en infraestructura. Una noción empresarial de eficiencia, una idea reductora de productividad o una concepción estrecha de inteligencia pueden acabar inscritas en herramientas que ordenan la vida cotidiana. La pregunta que León XIV pone sobre la mesa es quién puede orientar sistemas que afectan a millones de personas cuando esa orientación queda en manos de empresas que responden a incentivos comerciales.

Trabajo, identidad y dignidad

La conexión con Rerum novarum muestra que Magnifica Humanitas no es solo una encíclica sobre tecnología. Es una encíclica social. Para León XIV, el trabajo no puede reducirse a productividad. Es una mediación de identidad, cooperación, ciudadanía y dignidad. Por eso la automatización debe evaluarse no solo por su eficiencia, sino por sus efectos sobre empleo, familias, jóvenes, participación social y cohesión comunitaria.

Esta es una clave central para AIthropology. La IA no amenaza únicamente puestos de trabajo. Puede transformar la manera en que una cultura define lo valioso. Si una sociedad mide a las personas por rendimiento cognitivo, productividad y adaptabilidad, todo aquello que no encaja en la lógica de la optimización queda devaluado. El cuidado, la lentitud, la fragilidad, la memoria, la conversación y la presencia pueden parecer improductivos, aunque sean condiciones básicas de una vida social habitable.

La literatura sobre antropología empresarial y consultoría ayuda a aterrizar este problema. Baba (2012), Cefkin (2009), Jordan (2010) y Jordan y Sunderland (2012) muestran que las organizaciones no son espacios neutros donde simplemente se aplican técnicas. Son culturas profesionales con narrativas, rituales, jerarquías, criterios de evidencia y formas específicas de producir valor.

En ese sentido, la incorporación de IA en empresas y consultoras no consiste solo en introducir una herramienta nueva. También reordena autoridad profesional, tiempos de trabajo, expectativas de cliente, criterios de calidad y formas de justificar decisiones. La promesa de eficiencia puede ocultar conflictos sobre quién define el problema, quién certifica la solución y quién asume los riesgos.

Dispositivos sociotécnicos y economía moral de la IA

La noción de dispositivo sociotécnico permite describir mejor cómo opera la IA en la práctica. Un sistema de IA no está compuesto solo por un modelo y unos datos. Incluye protocolos, plantillas, repositorios de prompts, dashboards, guías de venta, documentos de cumplimiento, rutinas de validación, reuniones, comités y formas de presentar resultados.

Latour (2005) y Suchman (2007) permiten pensar estas tecnologías como ensamblajes donde se negocian competencias, responsabilidades y legitimidades. Star y Griesemer (1989) añaden una idea útil, la de objeto-frontera. Expresiones como «IA responsable», «human-in-the-loop», «alineamiento cultural» o «modelo seguro» pueden coordinar actores distintos sin que todos entiendan exactamente lo mismo. Funcionan porque son flexibles y estables a la vez.

Esta perspectiva ayuda a leer críticamente la encíclica. Cuando León XIV pide regulación, transparencia y control humano, no está reclamando solo principios abstractos. Está señalando la necesidad de intervenir en los dispositivos que hacen posible la IA. Quién diseña una checklist ética, quién define una métrica de riesgo, quién valida un modelo, quién puede impugnar una salida, quién firma una decisión y quién queda fuera del proceso.

La cuestión es también una economía moral. Sayer (2014) recuerda que las prácticas económicas están atravesadas por juicios morales, aunque muchas veces se presenten como decisiones técnicas. En la IA ocurre algo parecido. Cada despliegue implica decidir qué daño es tolerable, qué riesgo es aceptable, qué sesgo importa, qué responsabilidad se puede desplazar y qué forma de vida social merece protección.

Verdad, atención y vínculos simulados

La encíclica también aborda la verdad como bien común. En sociedades digitales, la verdad no depende únicamente de datos correctos. Depende de condiciones sociales que permitan deliberar, verificar, confiar y construir sentido compartido. León XIV advierte que las plataformas pueden captar el tiempo y la mirada, perfilar usuarios y orientar conductas, debilitando la libertad interior.

Aquí aparece un punto antropológicamente decisivo. Hay una diferencia entre interacción y relación. Un chatbot puede responder, acompañar o imitar empatía, pero no comparte mundo vivido. No tiene biografía, vulnerabilidad ni responsabilidad recíproca. La pregunta no es si la IA puede parecer humana, sino qué ocurre con los vínculos humanos cuando aceptamos simulacros funcionales como sustitutos suficientes.

Este problema se agrava cuando se cruza con desigualdades de género, raza o religión. Zine (2006) mostró cómo la islamofobia de género produce imágenes de mujeres musulmanas como sujetos atrasados, oprimidos o necesitados de rescate. Ese tipo de estereotipos puede ser amplificado por sistemas digitales que clasifican imágenes, textos y comportamientos a partir de conjuntos de datos ya sesgados. La IA no solo representa el mundo. Puede estabilizar determinadas representaciones como si fueran evidencia.

Guerra, responsabilidad y límite moral

El punto más duro de Magnifica Humanitas aparece en la discusión sobre armas autónomas. León XIV rechaza que la fuerza letal pueda quedar delegada en sistemas artificiales. El juicio moral no puede reducirse a cálculo porque implica conciencia, responsabilidad personal y reconocimiento del otro como persona.

Esta advertencia desborda el campo militar. La guerra automatizada es el extremo de una tentación más amplia, la disolución de la responsabilidad humana en la máquina. Si una decisión aparece como resultado de un sistema, el agente humano puede quedar moralmente desplazado. La violencia se vuelve más rápida, más distante y más difícil de atribuir.

La exigencia del Papa es que haya control humano efectivo, trazabilidad y responsabilidad identificable. Sin esos elementos, la IA no solo aumenta la capacidad técnica de destruir. También erosiona las condiciones morales que permiten juzgar la violencia.

Una nueva cuestión antropológica

La importancia de Magnifica Humanitas no reside en que la Iglesia «hable de IA». Su relevancia está en que recoloca la tecnología dentro de una disputa cultural por la definición de lo humano. La IA aparece como espejo de nuestras prioridades colectivas. Si una sociedad admira ante todo la velocidad, la predicción, la productividad y el control, construirá máquinas que refuercen esos valores. Si quiere proteger dignidad, pluralidad, justicia, cuerpo, fragilidad y relación, tendrá que diseñar, regular y habitar la IA de otra manera.

«Desarmar la IA» puede leerse, entonces, como una consigna antropológica. Significa impedir que el poder de calcular se convierta automáticamente en derecho a gobernar. Significa devolver al debate público aquello que el discurso técnico tiende a cerrar. Quién decide. Con qué valores. Sobre qué cuerpos. En beneficio de quién. Con qué posibilidad de apelación.

En última instancia, Magnifica Humanitas no pregunta si la IA llegará a ser más inteligente que nosotros. Pregunta si nosotros seremos capaces de seguir siendo humanos en un mundo cada vez más organizado por sistemas de cálculo.

Referencias

Baba, M. L. (2012). Anthropology and business: Influence and interests. Journal of Business Anthropology, 1(1), 20–71. https://doi.org/10.22439/jba.v1i1.3546

Benjamin, R. (2019). Race after technology: Abolitionist tools for the New Jim Code. Polity Press.

Bravo López, F. (2010). ¿Qué es la islamofobia? Documentación Social, 159, 189–207.

Cañedo Rodríguez, M., & Allen-Perkins, D. (2023). Mashups digitales. Algoritmos, cultura y antropología. Disparidades. Revista de Antropología, 78(1), e001a. https://doi.org/10.3989/dra.2023.001a

Cefkin, M. (Ed.). (2009). Ethnography and the corporate encounter: Reflections on research in and of corporations. Berghahn Books. https://doi.org/10.3167/9781845455989

Center for Countering Digital Hate. (2026). Grok image abuse report, January 2026. CCDH.

Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.

Díaz de Rada, Á. (2010). Cultura, antropología y otras tonterías. Trotta.

Dicasterio para la Doctrina de la Fe, & Dicasterio para la Cultura y la Educación. (2025). Antiqua et nova. Nota sobre la relación entre la inteligencia artificial y la inteligencia humana (28 de enero de 2025). Santa Sede. https://www.vatican.va/roman_curia/congregations/cfaith/documents/rc_ddf_doc_20250128_antiqua-et-nova_sp.html

Elahi, F., & Khan, O. (Eds.). (2017). Islamophobia: Still a challenge for us all. Runnymede Trust.

Gillespie, T. (2014). The relevance of algorithms. En T. Gillespie, P. J. Boczkowski, & K. A. Foot (Eds.), Media technologies: Essays on communication, materiality, and society (pp. 167–194). MIT Press.

Goodwin, C. (1994). Professional vision. American Anthropologist, 96(3), 606–633. https://doi.org/10.1525/aa.1994.96.3.02a00100

Grosfoguel, R. (2014). Las múltiples caras de la islamofobia. De Raíz Diversa. Revista Especializada en Estudios Latinoamericanos, 1(1), 83–114.

Jordan, A. T. (2010). The importance of business anthropology: Its unique contributions. International Journal of Business Anthropology, 1(1), 15–25.

Jordan, B., & Sunderland, P. (Eds.). (2012). Advancing ethnography in corporate environments: Challenges and emerging opportunities. Left Coast Press.

Kitchin, R. (2017). Thinking critically about and researching algorithms. Information, Communication & Society, 20(1), 14–29. https://doi.org/10.1080/1369118X.2016.1154087

Latour, B. (2005). Reassembling the social: An introduction to actor-network-theory. Oxford University Press.

León XIV. (2026). Magnifica Humanitas. Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial (15 de mayo de 2026). Santa Sede. https://www.vatican.va/content/leo-xiv/es/encyclicals/documents/20260515-magnifica-humanitas.html

Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. New York University Press.

Sayer, A. (2014). Why we can’t afford the rich. Policy Press. https://doi.org/10.46692/9781447320883

Sayyid, S. (2012). La umma como diáspora. En G. Martín Muñoz & R. Grosfoguel (Eds.), La islamofobia a debate. La genealogía del miedo al islam y la construcción de los discursos antiislámicos (pp. 191–218). Casa Árabe.

Seaver, N. (2018). What should an anthropology of algorithms do? Cultural Anthropology, 33(3), 375–385. https://doi.org/10.14506/ca33.3.04

Seaver, N. (2021). Care and scale: Decorrelative ethics in algorithmic recommendation. Cultural Anthropology, 36(3), 509–537. https://doi.org/10.14506/ca36.3.11

Star, S. L., & Griesemer, J. R. (1989). Institutional ecology, “translations” and boundary objects: Amateurs and professionals in Berkeley’s Museum of Vertebrate Zoology, 1907–39. Social Studies of Science, 19(3), 387–420. https://doi.org/10.1177/030631289019003001

Suchman, L. A. (2007). Human–machine reconfigurations: Plans and situated actions (2nd ed.). Cambridge University Press.

Téllez Delgado, V. (2018). El «Pacto Antiyihadista» y las estrategias de lucha contra la «radicalización violenta»: Implicaciones jurídicas, políticas y sociales. Revista de Estudios Internacionales Mediterráneos, 24, 9–30. https://doi.org/10.15366/reim2018.24.002

The Runnymede Trust. (1997). Islamophobia: A challenge for us all. Runnymede Trust.

Zine, J. (2006). Unveiled sentiments: Gendered Islamophobia and experiences of veiling among Muslim girls in a Canadian Islamic school. Equity & Excellence in Education, 39(3), 239–252. https://doi.org/10.1080/10665680600788503

Fuentes consultadas para ampliar el análisis

González Senosiain, M. (2025). Antropología e inteligencia artificial en las consultoras tecnológicas. Usos y narrativas profesionales en las Big Four. Proyecto de investigación, Universidad Complutense de Madrid.

Santa Sede. (2026). Presentación de la Carta Encíclica Magnifica Humanitas del Santo Padre León XIV sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. Oficina de Prensa de la Santa Sede.