Magnifica Humanitas: tra Babele e Gerusalemme, Leone XIV legge il tempo dell'IA

Il Papa, ad appena un anno dalla sua elezione, sceglie come prima grande enciclica un testo che si colloca esplicitamente nella scia del suo omonimo: Leone XIII, l’autore di Rerum Novarum, di cui ricorre il 135° anniversario. Il gesto è programmatico. Se nel 1891 le «cose nuove» erano la questione operaia e il conflitto fra capitale e lavoro, oggi le res novae sono digitalizzazione, robotica e — soprattutto — intelligenza artificiale. Non si tratta, avverte Leone XIV, di un capitolo da aggiungere alla dottrina sociale: è una trasformazione che interpella dall’interno le categorie stesse con cui la Chiesa pensa la persona, il lavoro, la democrazia, la pace.

Il punto di partenza è una coppia di immagini scritturali, scelte con la cura di chi ne ha vagliato sino all’essenza il significato. Da un lato la Torre di Babele: un’unica lingua, un’unica tecnologia, un’unica direzione, costruite sull’orgoglio di chi pretende di «farsi un nome» senza riferimento a Dio. Dall’altro la ricostruzione delle mura di Gerusalemme guidata da Neemia: opera lenta, condivisa, in cui ciascuna famiglia si prende cura di un tratto di muro.

La domanda che Leone XIV pone al cantiere digitale globale è secca: stiamo edificando una nuova Babele o stiamo ricostruendo Gerusalemme?

Non è retorica. L’enciclica osserva con notevole lucidità che il potere tecnologico oggi non è più principalmente in mano agli Stati. È nelle mani di attori privati, spesso transnazionali, dotati di risorse e capacità d’intervento superiori a quelle di molti governi. È un punto che Leone XIV riprende e affila più volte: il potere digitale ha assunto un volto «prevalentemente privato», e proprio per questo è più difficile da discernere, governare, orientare al bene comune. La sussidiarietà — uno dei pilastri storici della dottrina sociale — viene riletta in chiave inedita: il «livello superiore» che rischia di assorbire competenze, dati e decisioni non è più lo Stato che soffoca i corpi intermedi, ma la piattaforma che definisce le condizioni stesse della partecipazione economica e culturale.

La sezione dedicata all’intelligenza artificiale appare, per chi lavora nel settore tecnologico, sorprendentemente informata. Il Papa rinuncia esplicitamente a offrire una trattazione sistematica — riconosce che qualsiasi affermazione sull’IA rischia di essere superata in pochi mesi — ma fissa due premesse che tutti noi dovremmo leggere con attenzione.

La prima è che i moderni sistemi di intelligenza artificiale sono più «coltivati» che «costruiti»: gli sviluppatori non progettano direttamente ogni dettaglio, ma creano un’architettura sulla quale l’IA cresce. È una formulazione precisa, vicina al modo in cui i ricercatori parlano di emergent behaviors nei grandi modelli. La seconda è ancora più importante: gli stessi creatori conoscono poco del funzionamento interno dei loro sistemi. Aspetti scientifici fondamentali — rappresentazioni interne, processi computazionali — rimangono opachi. Da qui un duplice impegno: approfondire la ricerca scientifica e, parallelamente, esercitare un discernimento morale che non si lasci stordire dalla potenza dei risultati.

Leone XIV è netto nel rifiutare l’equiparazione fra intelligenza umana e intelligenza artificiale. I sistemi imitano alcune funzioni della mente umana e in molti casi le superano per velocità e ampiezza di calcolo, ma — scrive — non vivono un’esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione. Possono simulare empatia, ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo e spirituale in cui l’umano diventa sapiente. È un’antropologia, prima ancora che una teoria della mente: l’apprendimento di una persona non è un adattamento statistico, ma una crescita interiore fatta di scelte, errori, perdono e fedeltà.

Il capitolo terzo entra nel quotidiano di chi usa l’IA commerciale. Tre rischi vengono identificati con chirurgica precisione:

• la facilità di ottenere il risultato, che abitua a delegare e indebolisce il giudizio personale;
• l’impressione di oggettività, facendo dimenticare che ogni risposta riflette i parametri culturali di chi ha progettato e addestrato il sistema, con tutti i suoi pregi e difetti;
• la simulazione della comunicazione umana — forse il più insidioso — produce in utenti poco consapevoli l’illusione di essere in relazione con un autentico soggetto personale.

Quando la parola viene simulata, scrive Leone XIV, essa non costruisce una relazione ma «una sua parvenza». Il rischio non è tanto credere di parlare con una persona, ma perdere il desiderio stesso di cercare davvero l’altro.

Chi ha familiarità con la letteratura sulle dipendenze relazionali da chatbot — i casi documentati di adolescenti che hanno costruito legami patologici con chatbot — riconoscerà la diagnosi. È raro che un magistero pontificio entri in dettagli così operativi. Magnifica Humanitas lo fa, nello stile sobrio, incisivo e diretto di un agostiniano.

Il quarto capitolo si concentra sulla comunicazione, e qui l’enciclica conduce un’analisi che chiunque si occupi di public affairs o di policy digitale dovrebbe annotare. La disinformazione, scrive Leone XIV, non nasce con l’IA, ma in essa trova un moltiplicatore potente. La manipolazione di contenuti, immagini e filmati espone i cittadini a prospettive parziali o fuorvianti, e questo non è anzitutto un problema tecnologico: è un problema culturale e morale, perché la qualità della comunicazione pubblica dipende dalla fiducia sociale e incide su di essa.

Il Papa cita esplicitamente Hannah Arendt — ed è significativo che lo faccia — sul fatto che i sudditi ideali del totalitarismo non sono gli ideologicamente convinti, ma le persone per le quali la distinzione tra fatto e finzione, tra vero e falso, ha smesso di esistere. Il disinteresse per la verità porta lentamente al totalitarismo, avverte Leone XIV. È una preoccupazione attualissima nel contesto dei deepfake, delle campagne di influenza basate su modelli generativi, della frammentazione algoritmica dell’opinione pubblica.

L’enciclica propone un’«ecologia della comunicazione» articolata su quattro piani:

• norme pubbliche più stringenti sulla trasparenza degli algoritmi di selezione e amplificazione dei contenuti;
• rafforzamento dei corpi intermedi e di un giornalismo serio;
• alleanza educativa tra scuola, famiglia e istituzioni;
• integrazione dei saperi nell’università, per leggere la complessità senza dispersione.

Sul versante dei minori, Magnifica Humanitas arriva a richiamare la necessità di interventi legislativi che fissino limiti di età, responsabilizzino i fornitori dei servizi e prevedano tutele specifiche contro sfruttamento e violenza sessuale online. È, di fatto, un endorsement implicito alle politiche di restrizione del telefonino personale ai minori e alle proposte di regolamentazione sull’accesso ai social, oggi al centro del dibattito in molti Paesi europei e nordamericani.

Il passaggio più potente sotto il profilo geopolitico è probabilmente la denuncia di quello che potremmo individuare come «colonialismo digitale». Leone XIV parla di una nuova logica estrattiva che attraversa territori a minore rilevanza geopolitica: flussi sanitari, profili epidemiologici, mappe genetiche, dati demografici. Sono, scrive, le nuove «terre rare» del potere. Chi possiede i dati sanitari di intere popolazioni — raccolti spesso sotto il segno dell’aiuto, della ricerca o dell’innovazione — possiede una leva strutturale sul futuro, può modellare bisogni e mercati, può decidere prima degli altri a chi destinare farmaci, investimenti, protezioni.

A questo si aggiunge un’attenzione sorprendentemente esplicita al lavoro invisibile che sostiene l’industria dell’IA: i milioni di etichettatori e moderatori di contenuti, spesso giovani donne nel Sud globale, sottopagati per addestrare i modelli; gli adolescenti che lavorano nella frantumazione dei materiali da cui si ricavano le terre rare; le reti criminali che usano piattaforme e sistemi di messaggistica per la tratta di esseri umani. Il documento chiede esplicitamente alle imprese tecnologiche di adottare procedure di due diligence etica e di rendere più trasparenti le filiere. Non sono parole nuove negli ambienti ESG, ma trovarle in un’enciclica con questa precisione tecnica le carica di un peso diverso.

Il capitolo sul lavoro è quello in cui l’enciclica si misura più direttamente con i dati macroeconomici dell’ultimo decennio. Leone XIV non cede al fatalismo luddista della «fine del lavoro», ma neppure all’ottimismo tecnocratico secondo cui ogni rivoluzione tecnologica produce, alla lunga, più occupazione di quella che distrugge. La sua è una diagnosi più sottile: l’IA tende oggi a dequalificare il lavoratore, a imporgli il ritmo della macchina, a sottoporlo a sorveglianza automatizzata, relegandolo a funzioni rigide e ripetitive.

Se il paradosso è acuto: una tecnologia presentata come liberatrice produce in molti casi nuova precarietà. Le proposte sono concrete:

• fissare criteri sociali per l’innovazione, in modo che ogni introduzione di automazione sia accompagnata da scelte verificabili di tutela dell’occupazione e di riqualificazione;
• rendere accessibili formazione continua e passaggi professionali; includere la qualità del lavoro fra gli indicatori di successo delle imprese;
• superare il PIL come unico parametro di sviluppo.

Sono temi che la dottrina sociale aveva già toccato, ma qui vengono ricalibrati sull’orizzonte algoritmico. Un nuovo orizzonte che può essere attraversato con profitto e senza perdite soltanto disarmando l’IA, ovvero sottraendola alla logica della competizione armata — che non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e al dataset più vasto, al fine di consolidare un vantaggio geopolitico su tutti gli altri.

Disarmare, puntualizza Leone XIV, non significa rinunciare alla tecnologia: significa impedirle di dominare l’umano, sottrarla ai monopoli, renderla discutibile e contestabile, restituirla alla pluralità delle culture e delle forme di vita.

In questo Leone XIV si discosta da una certa retorica dell’AI alignment. Non basta, scrive, invocare la «moralizzazione della macchina», l’allineamento dell’IA a valori umani: occorre avere il coraggio di porre una ulteriore condizione, ossia la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti — qui la formula è memorabile — chi controlla l’IA imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi. Non serve, conclude, un’IA più morale se questa morale è decisa da pochi.

È una posizione che mette in tensione il magistero con quella parte dell’industria che ha trasformato la constitutional AI e l’alignment in vantaggio competitivo, presentandosi come arbitro etico globale. La domanda implicita di Leone XIV è: chi decide la costituzione?

C’è un’ultima frontiera che l’enciclica affronta a viso aperto: il transumanesimo. Le promesse di «uomo potenziato» o «uomo ibridato con la macchina», avverte il Papa, non sono semplici fantasie da convegno californiano: modellano l’immaginario collettivo, orientano investimenti, plasmano politiche pubbliche. La risposta cristiana non è il rifiuto della tecnica — sarebbe banale e perdente — ma il rifiuto dell’antropologia che la sottende. Quando l’essere umano è trattato come materiale da perfezionare o da oltrepassare, diventa più facile accettare che alcuni siano considerati meno utili, meno desiderabili, meno degni. In nome del progresso si finisce per immaginare «sacrifici necessari».

Il vero «più che umano», per Leone XIV, non è il potenziamento tecnologico ma il dono della grazia: un’umanità che si compie nella relazione e nella comunione, non nell’autosufficienza performativa. Cita Sant’Agostino: «Ci hai fatti per te, e il nostro cuore non ha posa finché non riposa in te.»

Per un algoritmo l’errore è qualcosa da correggere; per una persona può essere l’inizio di una conversione. Il futuro di un essere umano non è calcolabile.

Magnifica Humanitas è un testo lungo — duecentoquarantacinque paragrafi. Ma è anche, e forse soprattutto, un manifesto che la Chiesa cattolica consegna al dibattito globale sull’IA con una pretesa precisa: quella di esserci, di intervenire, di non lasciare il campo a chi traduce ogni questione tecnologica in mera ingegneria del consenso. Leone XIV chiama esplicitamente in causa sviluppatori, ricercatori, imprenditori, investitori, politici, educatori. Nessuno è esonerato dal cantiere.

Per chi si occupa di tecnologia da una prospettiva di fede, e per chi si occupa di fede dovendo fare i conti con la tecnologia, il valore del documento sta nel rifiuto delle due tentazioni speculari: la demonizzazione luddista e l’entusiasmo acritico. Il discernimento, scrive il Papa, non può fermarsi a chiedere se usiamo un certo sistema per uno scopo buono o cattivo: deve interrogarsi su come quel sistema è progettato, su quale idea di persona e di società è inscritta nei dati e nei modelli che lo guidano. Babele o Gerusalemme. La scelta, suggerisce Leone XIV, comincia in ciascuno di noi — e nel codice che scriviamo, finanziamo, regolamentiamo o, semplicemente, utilizziamo.