DESARMEN LA INTELIGENCIA ARTIFICIAL
«Desarmar la IA»: el papa León XIV publica su primera encíclica sobre la esclavitud, los algoritmos y la guerra.
Autor: Christopher Hale
Nota original: https://www.thelettersfromleo.com/p/disarm-ai-pope-leo-xiv-drops-his
La primera encíclica del papa aborda las armas autónomas, el ciclo de despidos que hay detrás de la IA generativa y la captura algorítmica de la democracia, y se pregunta si la dignidad de la persona humana puede sobrevivir.
Estoy agotado. Hoy voy a ver principalmente programas de televisión, y anoche leí la primera encíclica del Papa León XIV, Magnifica Humanitas, completa, para poder escribir esta carta para quienes no pueden leer 200 párrafos de prosa papal rápidamente. Espero expresarme con claridad, aun así. Si pueden, les recomiendo que también lean la encíclica.
Ningún resumen le hará justicia a este documento. La revisé la semana pasada y escribí una guía de lectura. A continuación, les presento lo que más me llamó la atención en la primera lectura completa.
Esta es la esencia de la obra del Papa León XIV.
La encíclica comienza con una disyuntiva. En su primer párrafo, León XIII escribe que «la magnífica humanidad creada por Dios se encuentra hoy ante una elección decisiva: erigir una nueva Torre de Babel o construir la ciudad santa, donde Dios y la humanidad convivan» (§1).
La Torre de Babel es la historia del Génesis en la que una humanidad unificada intenta construir una torre hacia el cielo según sus propios criterios, sin referencia a Dios, y termina en confusión y dispersión.
Lión XIII la utiliza como metáfora de una civilización que permite que la tecnología domine a la persona, frente a la alternativa de una ciudad construida en torno a la dignidad de cada ser humano.
El primer capítulo traza el desarrollo de la doctrina social católica desde la Rerum Novarum de León XIII en 1891 hasta la Laudato Si’ y Fratelli Tutti de Francisco, presentando el magisterio como una tradición viva y no como un conjunto de normas estáticas.
El segundo capítulo reitera los principios fundamentales: la dignidad de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social. En el tercero, Leo denomina lo que el Papa Francisco llamó por primera vez el paradigma tecnocrático e identifica su expresión más reciente en la inteligencia artificial.
El cuarto aplica esos principios a la verdad, el trabajo y la libertad en la transición digital. El capítulo cinco pasa del algoritmo al campo de batalla, identificando el uso de la IA en la guerra como un pecado contra lo que el Papa Pablo VI llamó la civilización del amor.
Dentro de esta estructura, Leo ha incluido un momento histórico de reflexión moral. Por primera vez en la historia del papado, un Papa ha pedido disculpas formalmente por el papel que desempeñó la Santa Sede en la legitimación de la trata de esclavos.
Papas anteriores se disculparon por los cristianos que participaron en la esclavitud. Ninguno había reconocido, hasta ahora, que las bulas del siglo XV de Nicolás V y sus sucesores otorgaron a los soberanos portugueses y españoles autoridad explícita para «invadir, conquistar, combatir y subyugar» a los no cristianos.
León menciona que esto deja constancia de una «herida en la memoria cristiana». El Papa, cuyo árbol genealógico incluye tanto a personas esclavizadas como a esclavistas, emitió la disculpa en una encíclica sobre inteligencia artificial por una razón.
Se pregunta si estamos repitiendo el patrón del trabajo no regulado que suministra los minerales raros para los chips de IA y el nuevo tráfico digital facilitado por las plataformas.
Este es el núcleo de la encíclica: se niega a que la inteligencia artificial se trate como una cuestión teórica. Leo es directo al respecto.
La IA ya decide quién es contratado y quién despedido, si se concede crédito o se deniega un préstamo, qué significa tu rostro para una cámara de vigilancia, qué se considera verdad en el espacio público y, cada vez más, quién vive y quién muere en una zona de guerra. La Iglesia, afirma Leo, tiene el deber de intervenir precisamente porque lo que está en juego es tan concreto.
El capítulo cuatro contiene la defensa de la democracia que hace la encíclica, y los católicos estadounidenses deberían prestarle mucha atención. Leo escribe que la verdad es «un bien común esencial para la vida democrática» y que el ecosistema digital —imágenes manipuladas, narrativas polarizadoras, amplificación algorítmica de la falsedad— pone en peligro ese bien.
Insiste en que la calidad de la comunicación pública «depende directamente de la confianza social», y que esta confianza no se puede fabricar mediante código. Se construye únicamente con seres humanos que se preocupan más por la verdad que por las métricas de participación.
Leo está enseñando a un país que ha pasado la mayor parte de la última década engañándose a sí mismo: que ninguna democracia sobrevive a la muerte del respeto por la verdad. Ya ha impartido esta enseñanza antes. Durante su viaje a África en abril, Leo declaró ante la Academia Pontificia de Ciencias Sociales que la democracia «solo se mantiene sana cuando está arraigada en la ley moral y en una verdadera visión de la persona humana». Magnifica Humanitas es la versión extendida de este argumento.
En el capítulo sobre el trabajo, Leo profundiza en la economía de la IA. Escribe que el modelo actual de transformación digital ha invertido el orden natural entre herramientas y personas. «A menudo, los trabajadores se ven obligados a adaptarse a la velocidad de las máquinas, en lugar de que las máquinas estén diseñadas para ayudar a los trabajadores».
Es una sola frase, pero también un veredicto sobre todo el ciclo de despidos que ha afectado a las redacciones, centros de atención al cliente, departamentos jurídicos y estudios de diseño estadounidenses en los últimos años. El Papa afirma que el modelo laboral que sustenta la IA generativa es obsoleto.
El capítulo sobre la guerra es aún más incisivo. León XIII escribe que el uso de la inteligencia artificial en los sistemas de armamento representa una traición a la doctrina de la guerra justa, disfrazada de perfeccionamiento de la misma. El asesinato automatizado acelera la decisión de usar la fuerza, desdibuja la responsabilidad moral y reduce el umbral ético a partir del cual una sociedad está dispuesta a quitar una vida humana.
«Ningún algoritmo puede hacer que la guerra sea moralmente aceptable», escribe el Papa. Retoma la frase de Pío XII en tiempos de guerra: «Con la paz nada se pierde, con la guerra se pierde todo», y la aplica al momento actual, cuando las empresas de Silicon Valley y el Pentágono compiten por construir sistemas de puntería autónomos.
Esa misma doctrina de la guerra justa ya ha sido aplicada en tiempo real por altos clérigos estadounidenses a la guerra que libra actualmente la administración Trump. El cardenal Robert McElroy de Washington ha declarado que la guerra de Estados Unidos contra Irán «no es moralmente legítima», dictaminando que la campaña no cumple con los requisitos básicos de causa justa y recta intención.
No está solo. Obispos estadounidenses, desde Chicago hasta Arkansas, se han hecho eco de su postura. Magnifica Humanitas otorga a este juicio un marco magisterial y una voz vaticana.
Luego, durante la presentación, León XIII hizo algo que nadie esperaba. De pie en el Salón del Sínodo, el Papa pidió una «IA desarmada». Sus palabras exactas, según las publicó el Vaticano, son las siguientes: «La inteligencia artificial exige ahora ser “desarmada”, liberada de las lógicas que la convierten en un instrumento de dominación, exclusión o muerte».
Aclaró a qué se refería: «Desarmar no significa renunciar a la tecnología, sino impedir que domine a la humanidad». Y luego extendió el significado más allá del campo de batalla literal: "Desarmar la IA significa liberarla de la mentalidad de competencia 'armada', que hoy en día no se limita simplemente al contexto militar, sino que también es un fenómeno económico y cognitivo".
El llamado a una IA desarmada es la frase más memorable de este pontificado. Vatican News encabezó su cobertura con ella. El Papa pide a la industria y al orden político global que abandonen el marco conceptual sobre el que se ha construido la IA hasta ahora —carrera armamentística, dominio del mercado, captura cognitiva— y que reconstruyan la tecnología en torno a la dignidad de la persona humana.
Desde la misma tribuna, Leo ofreció una frase más sosegada, pero igualmente significativa: «Necesitamos rostros y voces que vuelvan a hablar por las personas. Necesitamos valorar el don de la comunicación como la verdad más profunda de la humanidad». El Papa advierte que la mayor amenaza de la IA es la imitación. Imitar la amistad es robar lentamente la amistad misma.
La única figura de la industria de la IA presente en el escenario junto a Leo fue Christopher Olah, cofundador de Anthropic y director de investigación de interpretabilidad de la compañía. Olah aprovechó la plataforma para decir algo que ningún líder de un importante laboratorio de IA había dicho jamás desde una tribuna vaticana.
Según argumentó, el desarrollo de la inteligencia artificial de vanguardia no puede confiarse únicamente a los laboratorios de IA de vanguardia. Cada laboratorio, incluido el suyo, opera dentro de un conjunto de incentivos que a veces pueden entrar en conflicto con la ética. El escrutinio externo —por parte de líderes religiosos, gobiernos y la sociedad civil— es esencial, no opcional.
Anthropic conoce el precio de esta postura.
Como escribí a principios de esta semana, la compañía ha pasado los últimos tres meses en abierto conflicto con la administración Trump precisamente por la pregunta que el Papa León XIII acaba de responder desde el Vaticano.
En febrero, el Secretario de Defensa, Pete Hegseth, designó a Anthropic como un "riesgo para la cadena de suministro" y el Presidente Trump ordenó a todas las agencias federales que dejaran de usar Claude después de que Anthropic se negara a eliminar las cláusulas de su política de uso aceptable que prohíben el despliegue de Claude en armas totalmente autónomas o en la vigilancia masiva de ciudadanos estadounidenses.
Anthropic se encuentra este mes en un tribunal federal luchando para anular la lista negra del Pentágono. Un juez federal ya dictaminó que el gobierno tomó represalias contra Anthropic por plantear públicamente el tema. Bloomberg informó que el Pentágono ya está probando modelos de OpenAI y Google como alternativas.
Que el Papa León XIII invitara al cofundador de dicha empresa al escenario del Vaticano la misma semana en que se debate el caso en Washington fue una decisión significativa. El Papa ha tomado partido. Apoya al laboratorio cuya política de uso aceptable rechazó la exigencia del Pentágono de acceso ilimitado a la capacidad de armas autónomas, y se opone a las fuerzas políticas y corporativas que tratan a la persona humana como un objetivo.
Más allá de las noticias, Magnifica Humanitas es también un cuidadoso acto de desarrollo doctrinal. El Papa León XIII rompió con precedentes recientes al presentar personalmente la encíclica en el Vaticano, en lugar de entregar la introducción a un cardenal, y escribió una carta a los obispos del mundo pidiéndoles que recibieran el documento como parte de su magisterio y que lo enseñaran.
En el texto, León XIII cita repetidamente al Papa Francisco. Laudato Si’, Fratelli Tutti, Evangelii Gaudium, Dilexit Nos y Dignitas Infinita se entrelazan en las citas.
El principio que sustenta la continuidad doctrinal es uno que Francisco hizo suyo: «el tiempo es mayor que el espacio». Con esta expresión, Francisco afirma que la misión de la Iglesia es iniciar procesos que maduren con el tiempo, en lugar de acaparar posiciones de poder en el presente. León XIII retoma este principio directamente y lo utiliza para argumentar que la doctrina social de la Iglesia crece orgánicamente con cada pontificado, sin romper con lo anterior.
Magnifica Humanitas extiende la obra de Francisco en lugar de romper con ella, añadiendo un nuevo hilo a una trama que se extiende desde Rerum Novarum, pasando por Laudato Si’, hasta este momento. La continuidad misma es el mensaje. Para quienes esperaban que León XIII se distanciara de Francisco, esta encíclica constituye una corrección silenciosa e inequívoca.
Uno de los detalles más encantadores de la Magnifica Humanitas, y una costumbre que León XIII tomó prestada de Francisco I —quien se deleitaba citando a autores literarios no católicos como Dostoievski, Borges y Manzoni en sus propias encíclicas—, se encuentra en el §213, donde León XIII recurre a J.R.R. Tolkien.
Citando un verso de El Señor de los Anillos, el Papa escribe: «No nos corresponde dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos para el bienestar de los años que nos ha tocado vivir, erradicando el mal de los campos que conocemos, para que quienes vivan después tengan tierra limpia que cultivar». La primera encíclica de la IA en la historia es, entre otras cosas, un documento sobre los hobbits.
La encíclica también contiene una crítica implacable de lo que Leo denomina las narrativas transhumanistas y posthumanistas: la creencia, propia de Silicon Valley, de que la limitación humana es un defecto que debe eliminarse mediante la ingeniería. Leo se niega rotundamente.
La persona humana, escribe, «no florece a pesar de la limitación, sino a menudo gracias a ella». Es en la debilidad donde aprendemos el amor, el cuidado y la dependencia mutua. Una civilización que promete abolir la debilidad acabará aboliendo a quienes considera débiles.
Leo cierra la encíclica con la misma imagen con la que la abrió. La elección que tenemos ante nosotros, escribe, es ser «constructores de comunión, no arquitectos de Babel». Si pudiera, escribiría esa frase en cada pared de cada centro de datos de Silicon Valley. Es el criterio con el que una conciencia católica debe evaluar ahora cada producto, cada contrato, cada exigencia del Pentágono, cada algoritmo, cada junta de accionistas que afecte a la dignidad de la persona humana.
Si les es posible, les animo a que lean la encíclica completa. El primer papa estadounidense ha elegido este momento para recordar a la Iglesia y al mundo que la dignidad de la persona humana no es algo que se pueda añadir posteriormente.
En Cartas de Leo, nos solidarizamos con el Papa León XIV y los millones de católicos —y muchísimas personas de buena voluntad— que creen que la dignidad de la persona humana no es una opción en un panel de control, que la democracia no puede sobrevivir con métricas de participación y que ningún algoritmo debería tener la decisión de quitar una vida humana.
En una era envenenada por la crueldad y el cinismo, permanecemos firmes en una fe que se niega a ceder ante los nuevos ídolos del poder, ya sea que vistan el traje de un contratista de defensa, el sello de una agencia federal o el logotipo de una plataforma de Silicon Valley.
Esta es la comunidad católica de más rápido crecimiento en el país porque la gente anhela algo más profundo que la ira y la propaganda. Buscan valentía, verdad, amor manifestado en acciones; y ahora, mientras el propio Vaticano aboga por una IA desarmada, ese anhelo es más urgente que nunca.
* * *
Nota de la Redacción: La página de Christopher Hale se sostiene con donaciones y subscripciones. Si usted desea colaborar, puede hacerlo al pie de la siguiente página https://www.thelettersfromleo.com/p/disarm-ai-pope-leo-xiv-drops-his
* * *
