Papa Francesco sull’intelligenza artificiale e comunicazione: l’uomo non sia cibo per gli algoritmi

Messaggio di Sua Santità Papa Francesco per la 58esima giornata mondiale delle comunicazioni sociali

Cari fratelli e sorelle!

L’evoluzione dei sistemi della cosiddetta “intelligenza artificiale”, sulla quale ho già riflettuto nel recente Messaggio per la Giornata Mondiale della Pace, sta modificando in modo radicale anche l’informazione e la comunicazione e, attraverso di esse, alcune basi della convivenza civile. Si tratta di un cambiamento che coinvolge tutti, non solo i professionisti. L’accelerata diffusione di meravigliose invenzioni, il cui funzionamento e le cui potenzialità sono indecifrabili per la maggior parte di noi, suscita uno stupore che oscilla tra entusiasmo e disorientamento e ci pone inevitabilmente davanti a domande di fondo: cosa è dunque l’uomo, qual è la sua specificità e quale sarà il futuro di questa nostra specie chiamata homo sapiens nell’era delle intelligenze artificiali? Come possiamo rimanere pienamente umani e orientare verso il bene il cambiamento culturale in atto?

A partire dal cuore

Innanzitutto conviene sgombrare il terreno dalle letture catastrofiche e dai loro effetti paralizzanti. Già un secolo fa, riflettendo sulla tecnica e sull’uomo, Romano Guardini invitava a non irrigidirsi contro il “nuovo” nel tentativo di «conservare un bel mondo condannato a sparire». Al tempo stesso, però, in modo accorato ammoniva profeticamente: «Il nostro posto è nel divenire. Noi dobbiamo inserirvici, ciascuno al proprio posto (…), aderendovi onestamente ma rimanendo tuttavia sensibili, con un cuore incorruttibile, a tutto ciò che di distruttivo e di non umano è in esso». E concludeva: «Si tratta, è vero, di problemi di natura tecnica, scientifica, politica; ma essi non possono esser risolti se non procedendo dall’uomo. Deve formarsi un nuovo tipo umano, dotato di una più profonda spiritualità, di una libertà e di una interiorità nuove».
In quest’epoca che rischia di essere ricca di tecnica e povera di umanità, la nostra riflessione non può che partire dal cuore umano. Solo dotandoci di uno sguardo spirituale, solo recuperando una sapienza del cuore, possiamo leggere e interpretare la novità del nostro tempo e riscoprire la via per una comunicazione pienamente umana. Il cuore, inteso biblicamente come sede della libertà e delle decisioni più importanti della vita, è simbolo di integrità, di unità, ma evoca anche gli affetti, i desideri, i sogni, ed è soprattutto luogo interiore dell’incontro con Dio. La sapienza del cuore è perciò quella virtù che ci permette di tessere insieme il tutto e le parti, le decisioni e le loro conseguenze, le altezze e le fragilità, il passato e il futuro, l’io e il noi.
Questa sapienza del cuore si lascia trovare da chi la cerca e si lascia vedere da chi la ama; previene chi la desidera e va in cerca di chi ne è degno (cfr Sap 6,12-16). Sta con chi accetta consigli (cfr Pr 13,10), con chi ha il cuore docile, un cuore che ascolta (cfr 1 Re 3,9). Essa è un dono dello Spirito Santo, che permette di vedere le cose con gli occhi di Dio, di comprendere i nessi, le situazioni, gli avvenimenti e di scoprirne il senso. Senza questa sapienza l’esistenza diventa insipida, perché è proprio la sapienza – la cui radice latina sapere la accomuna al sapore – a donare gusto alla vita.

Opportunità e pericolo

Non possiamo pretendere questa sapienza dalle macchine. Benché il termine intelligenza artificiale abbia ormai soppiantato quello più corretto, utilizzato nella letteratura scientifica, machine learning, l’utilizzo stesso della parola “intelligenza” è fuorviante. Le macchine possiedono certamente una capacità smisuratamente maggiore rispetto all’uomo di memorizzare i dati e di correlarli tra loro, ma spetta all’uomo e solo a lui decodificarne il senso. Non si tratta quindi di esigere dalle macchine che sembrino umane. Si tratta piuttosto di svegliare l’uomo dall’ipnosi in cui cade per il suo delirio di onnipotenza, credendosi soggetto totalmente autonomo e autoreferenziale, separato da ogni legame sociale e dimentico della sua creaturalità.
In realtà, l’uomo da sempre sperimenta di non bastare a sé stesso e cerca di superare la propria vulnerabilità servendosi di ogni mezzo. A partire dai primi manufatti preistorici, utilizzati come prolungamenti delle braccia, attraverso i media impiegati come estensione della parola, siamo oggi giunti alle più sofisticate macchine che agiscono come ausilio del pensiero. Ognuna di queste realtà può però essere contaminata dalla tentazione originaria di diventare come Dio senza Dio (cfr Gen 3), cioè di voler conquistare con le proprie forze ciò che andrebbe invece accolto come dono da Dio e vissuto nella relazione con gli altri.
A seconda dell’orientamento del cuore, ogni cosa nelle mani dell’uomo diventa opportunità o pericolo. Il suo stesso corpo, creato per essere luogo di comunicazione e comunione, può diventare mezzo di aggressività. Allo stesso modo ogni prolungamento tecnico dell’uomo può essere strumento di servizio amorevole o di dominio ostile. I sistemi di intelligenza artificiale possono contribuire al processo di liberazione dall’ignoranza e facilitare lo scambio di informazioni tra popoli e generazioni diverse. Possono ad esempio rendere raggiungibile e comprensibile un enorme patrimonio di conoscenze scritto in epoche passate o far comunicare le persone in lingue per loro sconosciute. Ma possono al tempo stesso essere strumenti di “inquinamento cognitivo”, di alterazione della realtà tramite narrazioni parzialmente o totalmente false eppure credute – e condivise – come se fossero vere. Basti pensare al problema della disinformazione che stiamo affrontando da anni nella fattispecie delle fake news e che oggi si avvale del deep fake, cioè della creazione e diffusione di immagini che sembrano perfettamente verosimili ma sono false (è capitato anche a me di esserne oggetto), o di messaggi audio che usano la voce di una persona dicendo cose che la stessa non ha mai detto. La simulazione, che è alla base di questi programmi, può essere utile in alcuni campi specifici, ma diventa perversa là dove distorce il rapporto con gli altri e la realtà.
Della prima ondata di intelligenza artificiale, quella dei social media, abbiamo già compreso l’ambivalenza toccandone con mano, accanto alle opportunità, anche i rischi e le patologie. Il secondo livello di intelligenze artificiali generative segna un indiscutibile salto qualitativo. È importante quindi avere la possibilità di comprendere, capire e regolamentare strumenti che nelle mani sbagliate potrebbero aprire scenari negativi. Come ogni altra cosa uscita dalla mente e dalle mani dell’uomo, anche gli algoritmi non sono neutri. Perciò è necessario agire preventivamente, proponendo modelli di regolamentazione etica per arginare i risvolti dannosi e discriminatori, socialmente ingiusti, dei sistemi di intelligenza artificiale e per contrastare il loro utilizzo nella riduzione del pluralismo, nella polarizzazione dell’opinione pubblica o nella costruzione di un pensiero unico. Rinnovo dunque il mio appello esortando «la Comunità delle nazioni a lavorare unita al fine di adottare un trattato internazionale vincolante, che regoli lo sviluppo e l’uso dell’intelligenza artificiale nelle sue molteplici forme». Tuttavia, come in ogni ambito umano, la regolamentazione non basta.

Crescere in umanità

Siamo chiamati a crescere insieme, in umanità e come umanità. La sfida che ci è posta dinanzi è di fare un salto di qualità per essere all’altezza di una società complessa, multietnica, pluralista, multireligiosa e multiculturale. Sta a noi interrogarci sullo sviluppo teorico e sull’uso pratico di questi nuovi strumenti di comunicazione e di conoscenza. Grandi possibilità di beneaccompagnano il rischio che tutto si trasformi in un calcolo astratto, che riduce le persone a dati, il pensiero a uno schema, l’esperienza a un caso, il bene al profitto, e soprattutto che si finisca col negare l’unicità di ogni persona e della sua storia, col dissolvere la concretezza della realtà in una serie di dati statistici.
La rivoluzione digitale può renderci più liberi, ma non certo se ci imprigiona nei modelli oggi noti come echo chamber. In questi casi, anziché accrescere il pluralismo dell’informazione, si rischia di trovarsi sperduti in una palude anonima, assecondando gli interessi del mercato o del potere. Non è accettabile che l’uso dell’intelligenza artificiale conduca a un pensiero anonimo, a un assemblaggio di dati non certificati, a una deresponsabilizzazione editoriale collettiva. La rappresentazione della realtà in big data, per quanto funzionale alla gestione delle macchine, implica infatti una perdita sostanziale della verità delle cose, che ostacola la comunicazione interpersonale e rischia di danneggiare la nostra stessa umanità. L’informazione non può essere separata dalla relazione esistenziale: implica il corpo, lo stare nella realtà; chiede di mettere in relazione non solo dati, ma esperienze; esige il volto, lo sguardo, la compassione oltre che la condivisione.
Penso al racconto delle guerre e a quella “guerra parallela” che si fa tramite campagne di disinformazione. E penso a quanti reporter sono feriti o muoiono sul campo per permetterci di vedere quello che i loro occhi hanno visto. Perché solo toccando con mano la sofferenza dei bambini, delle donne e degli uomini, si può comprendere l’assurdità delle guerre.
L’uso dell’intelligenza artificiale potrà contribuire positivamente nel campo della comunicazione, se non annullerà il ruolo del giornalismo sul campo, ma al contrario lo affiancherà; se valorizzerà le professionalità della comunicazione, responsabilizzando ogni comunicatore; se restituirà ad ogni essere umano il ruolo di soggetto, con capacità critica, della comunicazione stessa.
Interrogativi per l’oggi e il domani
Alcune domande sorgono dunque spontanee: come tutelare la professionalità e la dignità dei lavoratori nel campo della comunicazione e della informazione, insieme a quella degli utenti in tutto il mondo? Come garantire l’interoperabilità delle piattaforme? Come far sì che le aziende che sviluppano piattaforme digitali si assumano le proprie responsabilità rispetto a ciò che diffondono e da cui traggono profitto, analogamente a quanto avviene per gli editori dei media tradizionali? Come rendere più trasparenti i criteri alla base degli algoritmi di indicizzazione e de-indicizzazione e dei motori di ricerca, capaci di esaltare o cancellare persone e opinioni, storie e culture? Come garantire la trasparenza dei processi informativi? Come rendere evidente la paternità degli scritti e tracciabili le fonti, impedendo il paravento dell’anonimato? Come rendere manifesto se un’immagine o un video ritraggono un evento o lo simulano? Come evitare che le fonti si riducano a una sola, a un pensiero unico elaborato algoritmicamente? E come invece promuovere un ambiente adatto a preservare il pluralismo e a rappresentare la complessità della realtà? Come possiamo rendere sostenibile questo strumento potente, costoso ed estremamente energivoro? Come possiamo renderlo accessibile anche ai paesi in via di sviluppo?
Dalle risposte a questi e ad altri interrogativi capiremo se l’intelligenza artificiale finirà per costruire nuove caste basate sul dominio informativo, generando nuove forme di sfruttamento e di diseguaglianza; oppure se, al contrario, porterà più eguaglianza, promuovendo una corretta informazione e una maggiore consapevolezza del passaggio di epoca che stiamo attraversando, favorendo l’ascolto dei molteplici bisogni delle persone e dei popoli, in un sistema di informazione articolato e pluralista. Da una parte si profila lo spettro di una nuova schiavitù, dall’altra una conquista di libertà; da una parte la possibilità che pochi condizionino il pensiero di tutti, dall’altra quella che tutti partecipino all’elaborazione del pensiero.
La risposta non è scritta, dipende da noi. Spetta all’uomo decidere se diventare cibo per gli algoritmi oppure nutrire di libertà il proprio cuore, senza il quale non si cresce nella sapienza. Questa sapienza matura facendo tesoro del tempo e abbracciando le vulnerabilità. Cresce nell’alleanza fra le generazioni, fra chi ha memoria del passato e chi ha visione di futuro. Solo insieme cresce la capacità di discernere, di vigilare, di vedere le cose a partire dal loro compimento. Per non smarrire la nostra umanità, ricerchiamo la Sapienza che è prima di ogni cosa (cfr Sir 1,4), che passando attraverso i cuori puri prepara amici di Dio e profeti (cfr Sap 7,27): ci aiuterà ad allineare anche i sistemi dell’intelligenza artificiale a una comunicazione pienamente umana.

Roma, San Giovanni in Laterano, 24 gennaio 2024

FRANCESCO

Fonte: www.vatican.va/