Enciclica Magnifica humanitas testo, scuola e politica nelle parole di Leone XIV sull’intelligenza artificiale

E’ stata presenta (e pubblica) oggi la prima Enciclica di Papa Leone XIV che ha per titolo MAGNIFICA HUMANITAS – Sulla custodia della persona umana nel tempo dell’intelligenza artificiale (qui il testo integrale).

Si tratta di un testo molto ampio, complesso, che si pone esplicitamente sulla scia della Rerum Novarum di papa Leone XIII e che quindi approfondisce i temi della dottrina sociale della chiesa rileggendola a partire dalla sfida posta oggi all’umanità dall’intelligenza artificiale, dal paradigma tecnocratico e dalle teorie del transumanesimo e del postumanesimo.

Sebbene sia impossibile qui dare conto della complessità del documento pontificio occorre almeno ribadire quali sono i principi chiave della dottrina sociale della chiesa come così ripresi da Leone XIV sin dall’indice:

• L’essere umano immagine del Dio trinitario
• L’eguale dignità di tutti gli esseri umani
• L’altissimo valore dei diritti umani
• I principi della Dottrina sociale
• Il principio del bene comune
• Il principio della destinazione universale dei beni
• Il principio di sussidiarietà
• Il principio di solidarietà
• Il principio della giustizia sociale
• Lo sviluppo umano integrale

La torre di Babele come sfida

L’Enciclica inizia così: “La magnifica umanità creata da Dio si trova oggi di fronte ad una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme. Ogni generazione riceve in eredità il compito di dare forma al proprio tempo: di far maturare la storia come luogo in cui la dignità di ogni persona sia custodita, la giustizia promossa e la fraternità resa possibile. Ma su ogni epoca incombe il rischio di costruire un mondo disumano e più ingiusto (par. 1). E già qui risuona tutta la profondità biblica (la torre di Babele) e teologica (La città di dio, evidente citazione dell’opera di sant’Agostino, fondatore dell’ordine di San Agostino) di Papa Leone XIV, che viene dall’Ordine Agostiniano dove ha ricoperto anche il ruolo di superiore generale).

Ebbene, all’interno della sfida di Babele, abbiamo scelto di presentare l’Enciclica percorrendo solo alcuni dei suoi molti sentieri e, in particolare, interessandoci del tema dell’Intelligenza Artificiale e delle questioni educative e regolatorie ad essa connesse.

Ne esce un quadro decisamente dove la scuola (non solo l’educazione ma la scuola!) è centrale ed è chiamata a compiere scelte radicali di innovazione didattica e culturale.

Addentriamo dunque nell’Enciclica.

Cosa è l’Intelligenza artificiale

Per Leone XIV non è possibile dare una definizione univoca e completa dell’IA: essa indica sistemi capaci di imitare alcune funzioni dell’intelligenza umana attraverso il trattamento dei dati, senza però possedere esperienza, corpo, coscienza morale, comprensione autentica o crescita interiore. («Non è possibile dare una definizione univoca e completa dell’IA» i cui sistemi «imitano alcune funzioni dell’intelligenza umana», ma che la loro potenza «resta legata esclusivamente al trattamento dei dati», «non vivono una esperienza», «non possiedono un corpo», «non hanno neppure una coscienza morale» e «non capiscono ciò che producono» – par. 99)

L’IA è certamente vista come uno strumento tecnico, ma non va pensata come “solo uno strumento” neutro e isolato. Leone XIV insiste su due livelli.

L’IA resta uno strumento / sistema tecnico, perché opera tramite dati e calcolo (99) ma non è soggetto personale, né vera intelligenza equivalente all’umano. Tuttavia pur essendo uno strumento, l’IA diventa parte di un ambiente socio-tecnico più ampio, perché entra nelle infrastrutture digitali, nei processi decisionali, nell’immaginario collettivo e nelle relazioni sociali. Già al paragrafo 4 Leone XIV afferma che digitalizzazione, IA e robotica stanno trasformando il mondo e incidono profondamente sulla quotidianità, sui processi decisionali e sull’immaginario collettivo. Inoltre, al paragrafo 96 parla del potere delle «infrastrutture digitali e degli algoritmi», chiedendo di verificare se favoriscano partecipazione, responsabilità, protezione dei fragili e bene comune.  E al paragrafo 9 la tecnologia è descritta come qualcosa che può «curare, connettere, educare, custodire la Casa comune», ma anche «dividere, scartare, generare nuove ingiustizie»; soprattutto, non è neutrale, perché «assume il volto di chi la pensa, la finanzia, la regola, la usa».

Paradigma tecnocratico, transumanesimo e IA

L’enciclica, al capitolo terzo (intitolato Tecnica e dominio. La grandezza della persona umana davanti alle promesse dell’IA)iscrive l’IA dentro la cornice culturale del paradigma tecnocratico . L’IA è una delle tecnologie che può accelerarla, etransumanesimo/postumanesimo sono narrazioni ideologiche che portano quella cornice fino all’idea di superare o oltrepassare l’umano. Il paradigma tecnocratico viene descritto come la tendenza a lasciare che «efficienza, controllo e profitto» governino da soli le scelte personali, sociali ed economiche. Quando la tecnica diventa criterio, stabilisce «che cosa conta e che cosa può essere scartato», riducendo le persone a ingranaggi di un sistema sempre più performante. Questo è il punto di partenza: la tecnica non è più solo mezzo, ma diventa misura del valore (vedi Par. 92) L’IA entra come fattore di potenziamento di questa logica. Leone XIV dice che il paradigma tecnocratico si è esteso anche per effetto della diffusione dell’intelligenza artificiale, insieme a scienze cognitive, nanotecnologia, robotica e biotecnologia. Queste innovazioni possono essere un aiuto per lo sviluppo umano integrale, ma possono anche agire come «acceleratore del paradigma tecnocratico» se non sono orientate da un quadro spirituale, etico e politico (Par. 93)

Il transumanesimo e il postumanesimo sono poi presentati come narrazioni culturali che interpretano il progresso come superamento dell’umano. Il transumanesimo immagina il potenziamento dell’essere umano tramite tecnologie, dispositivi, algoritmi e biomedicina; il postumanesimo, nelle versioni più radicali, prospetta l’ibridazione tra essere umano, macchina e ambiente fino a un nuovo stadio evolutivo (Parr. 115-116).  Il punto critico, per Leone XIV, non è l’uso della tecnica in sé. Il problema nasce quando l’essere umano viene trattato come materiale da perfezionare o da oltrepassare. In quel caso diventa più facile considerare alcune persone «meno utili, meno desiderabili, meno degne» e giustificare sacrifici in nome dell’ottimizzazione o del progresso (Par. 117) con il rischio comune è che la persona non sia più riconosciuta nella sua dignità integrale, ma valutata in base a prestazione, efficienza, controllo e capacità di essere “ottimizzata”.

Educare al tempo dell’intelligenza artificiale

Per Leone XIV l’educazione ha un ruolo decisivo nel tempo dell’IA perché è il luogo in cui si custodisce ciò che la tecnologia da sola non può garantire: verità, senso critico, libertà interiore, responsabilità, relazioni affidabili e dignità della persona.

Il punto centrale è che l’educazione non deve limitarsi a insegnare a usare l’IA, ma deve aiutare a discernere quando usarla, come usarla e quando non usarla. Al paragrafo 140 scrive che «ogni tecnologia educa chi la utilizza» e che educare all’uso dell’IA implica anche «educare a decidere quando e per cosa non usarla». Qui l’educazione diventa una forma di resistenza alla “macchina perfetta”, cioè alla tentazione di rendere inutile il pensiero umano proprio quando è più necessario.

Un secondo ruolo dell’educazione è proteggere la ricerca della verità. Al paragrafo 139, Leone XIV afferma che, in un tempo in cui la verità è spesso piegata a interessi e strategie comunicative, «il mondo dell’educazione assume un rilievo decisivo». La cultura digitale dell’immediatezza e dell’iperstimolazione rischia di spegnere la fatica necessaria per cercare la verità.

La scuola, in particolare, ha un ruolo insostituibile. Al paragrafo 143 viene definita il luogo in cui le nuove generazioni possono imparare a «cercare e amare la verità», a interrogarsi sul «senso della vita» e sulla «dignità di ogni persona». Per questo è anche un’alleata delle famiglie nell’educazione dei figli.

Leone XIV collega poi l’educazione alla formazione dei docenti. Al paragrafo 145 dice che l’IA rende inadeguati molti programmi pensati per un’altra epoca e chiede di ripensare organizzazione della scuola, metodi di valutazione e figura dell’insegnante. Per questo serve formazione continua dei docenti, affinché aiutino gli studenti a usare le tecnologie in modo «responsabile, critico e creativo» e a non subirne passivamente l’influsso.

Infine, l’educazione ha una funzione sapienziale: deve contrastare la frammentazione delle informazioni e promuovere pensiero critico, creativo e capacità di dare senso. Al paragrafo 146, Leone XIV avverte il rischio di un sistema educativo «senza amore per la verità», dove il flusso di informazioni sostituisce ricerca, riflessione e discernimento. Per questo propone una «igiene dell’attenzione»: silenzio, studio approfondito, lettura e confronto ponderato. L’educazione è il presidio umano e spirituale che permette di abitare l’era dell’IA senza subirla. Non deve rincorrere la velocità del digitale, ma offrire «tempo condiviso per apprendere e relazioni affidabili» (paragrafo 147).

Centralità della scuola

Nel cuore dell’Enciclica (par 143 – 147) troviamo un capitoletto intitolato “centralità della scuola”.  Riporto qui integralmente il testo ripreso dall’enciclica mettendo solo in evidenza (in neretto) quelli che mi paiono i passaggi cruciali.

143. La scuola è il luogo in cui le nuove generazioni possono imparare a cercare e amare la verità, a interrogarsi sul senso della vita e sulla dignità di ogni persona. Per questo molti genitori, che desiderano che i figli crescano capaci di relazione, di senso critico, di valori solidi, ripongono in essa grandi attese, come preziosa alleata nell’educazione dei loro figli. Ai genitori spetta, infatti, il diritto primario e inalienabile di scegliere il tipo di istruzione e di formazione da impartire ai figli, coerentemente alle proprie convinzioni morali, culturali e religiose. Il mondo della scuola oggi si trova davanti ad alcune sfide improrogabili.

144. La prima sfida è sociopolitica. Sia entro le singole nazioni che tra diverse aree del mondo, permangono forti disuguaglianze nell’accesso all’istruzione di base e agli studi superiori. In non pochi Paesi lo Stato non ha ancora investito le risorse necessarie per garantire a tutti un’educazione di qualità, sia sostenendo adeguatamente il sistema scolastico pubblico sia supportando le istituzioni private che offrono questo servizio fondamentale. Quando una parte rilevante dell’istruzione, a vari livelli, è affidata a istituti privati, può accadere che l’accesso alla scuola dipenda troppo dalle possibilità economiche delle famiglie, in mancanza di un adeguato sostegno pubblico. A fronte di questo rischio, va comunque riconosciuto e sostenuto il contributo di molte opere educative cattoliche che, pur essendo istituzioni private, garantiscono un’accoglienza inclusiva a bambini e giovani di ogni provenienza, anche quando le condizioni economiche delle famiglie non lo permetterebbero.

145. La seconda grande sfida è pedagogica. Molti sistemi formativi faticano ad aggiornarsi al ritmo dei cambiamenti e a sostenere una crescita integrale degli studenti. Lo sviluppo delle tecnologie informatiche e dell’IA rende rapidamente inadeguati programmi di studio pensati per un’altra epoca, mentre l’organizzazione della scuola, gli spazi, i metodi di valutazione e la stessa figura dell’insegnante chiedono di essere ripensati in vista di un’educazione realmente integrale, aperta a tutte le dimensioni della persona. È necessario sostenere la formazione continua dei docenti lungo tutto l’arco della vita professionale, perché sappiano dialogare in modo positivo con le nuove tecnologie, aiutando gli studenti a farne un uso responsabile, critico e creativo e a non subirne passivamente l’influsso.

146. La terza grande sfida è intellettuale e sapienziale. Se non siamo attenti, può prendere forma un sistema educativo senza amore per la verità, in cui il flusso incessante di informazioni sostituisce l’esercizio della ricerca, della riflessione e del discernimento. Si moltiplicano conoscenze frammentarie, ma diventa più difficile cogliere la realtà nel suo insieme, porre domande di senso, sviluppare un autentico pensiero critico e creativo. Molti educatori avvertono già i segni di una possibile disumanizzazione, in cui le persone “sanno molte cose” ma faticano a dare un orientamento alla propria vita, anche a causa dell’incapacità di connettere le informazioni e le conoscenze, e di non perderne l’orizzonte di senso. Occorre promuovere una vera igiene dell’attenzione: ritmi che prevedano silenzio, studio approfondito, lettura, confronto ponderato; senza questi elementi la libertà interiore può risultare compromessa.

147. La Dottrina sociale della Chiesa invita famiglie, scuole, comunità cristiane e istituzioni pubbliche a un’alleanza educativa rinnovata. Essa diventa concreta quando i principi fondamentali si traducono in mete educative: educare alla sobrietà e al senso del limite; educare al riconoscimento del diritto dell’altro e di chi verrà dopo di noi a godere dei beni che ci sono donati, o che l’ingegno umano rende disponibili; educare alla libertà e alla responsabilità; educare al senso della trascendenza e al bene comune. La scuola non è chiamata a inseguire la velocità del mondo digitale, ma a offrire ciò che il digitale da solo non può dare: tempo condiviso per apprendere e relazioni affidabili.

Regolare o non regolare l’IA? Il ruolo della politica

Il testo dell’Enciclica è ricchissimo e in questo primo commento non è possibile indagarlo in profondità. Un tema tuttavia va ripreso in chiusura, e riguarda se e come regolare l’IA (e le tecnologie in generale). E’ il punto di scontro tra il modello USA (che vede ogni regolamentazione come fumo negli occhi e attentato alla libertà di impresa e di innovazione), il modello cinese (che è iper regolamentato da una sostanziale dittatura digitale) e il modello Europeo che pensa che si possa debba contemperare libertà e innovazione con i valori democratici, la giustizia sociale, l’equità.

Ebbene, secondo Leone XIV, l’IA va si regolata, ma la regolazione da sola non basta.

Il ruolo della politica e dei governi è quello di impedire che l’IA sia governata solo dal mercato, dai monopoli tecnologici o dalle logiche tecnocratiche. La politica deve orientare l’innovazione verso bene comune, giustizia, dignità umana, partecipazione e protezione dei più fragili.

Il primo punto chiave è al paragrafo 5: Leone XIV afferma che è necessario adottare «strumenti normativi adeguati» per tutelare la giustizia e contenere gli effetti distorsivi del potere tecnologico. Però aggiunge che la questione non si esaurisce nella regolamentazione, perché bisogna anche chiedersi chi detiene il potere tecnologico e a quali fini lo orienta. Nello stesso paragrafo osserva che oggi i principali motori dell’innovazione sono spesso attori privati transnazionali, più potenti di molti governi, e per questo il potere tecnologico è più difficile da discernere, governare e orientare al bene comune.

Il secondo passaggio decisivo è il paragrafo 106: qui dice che non basta invocare genericamente l’etica. Servono «quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito». Se la politica abdica, il cambiamento viene governato solo da logiche tecnocratiche e da chi possiede dati, infrastrutture e capacità di calcolo.

Al paragrafo 107 chiarisce ulteriormente che non basta chiedere un’IA “allineata” a valori umani se quei valori sono decisi da pochi. Serve una politica capace di proteggere gli spazi di partecipazione, rallentare quando tutto accelera e permettere alle comunità di discutere i criteri etici incorporati nei sistemi.

Al paragrafo 108 entra nel merito della regolazione: l’uso dell’IA, soprattutto quando riguarda beni pubblici e diritti fondamentali, deve essere accompagnato da criteri chiari e controlli effettivi. Inoltre, la proprietà dei dati «non può essere affidata solo a privati, ma va regolamentata», perché i dati sono frutto del contributo di molti e non possono essere venduti o concentrati nelle mani di pochi.

Infine, al paragrafo 163, Leone XIV dice che nell’epoca dell’IA e della robotica non ci si può affidare alla sola “mano invisibile” del mercato: la politica ha il compito di orientare le dinamiche economico-tecnologiche verso il bene comune, promuovendo lavoro dignitoso, inclusione sociale ed equa distribuzione dei benefici dell’innovazione.

Una lezione, quella di Leone XIV, sul ruolo della politica. Ci ricorda come l’IA debba essere regolata e governata democraticamente, resa contestabile, controllabile e orientata alla dignità umana. La politica non deve limitarsi a inseguire la tecnologia dopo che è stata introdotta: deve partecipare alla definizione delle sue condizioni, dei suoi limiti e dei suoi fini.