Per gentile concessione dell’editore, vi propongo il mio articolo pubblicato nel fascicolo numero due (Il moderno Prometeo artificiale) della rivista Visione, dedicato all’intelligenza artificiale.

***

di Aldo Maria Valli

Per quelli della mia generazione in principio fu Hal, il supercomputer cattivone di 2001Odissea nello spazio. Imprinting decisivo: diffidare di una macchina troppo intelligente. Specialmente se ha una voce che vorrebbe essere rassicurante.

Ma non c’è fantascienza che tenga. L’intelligenza artificiale è ormai la nuova frontiera, e appare sempre più a portata di mano. Il malloppo impiegato nella ricerca (tanto per fare qualche esempio: 70 miliardi di dollari da parte di Microsoft; 10 miliardi da Facebook-Meta; 1,6 miliardi da Unity Software; 39,5 milioni da Google-Alphabet) è tale da non conoscere ostacoli. La sfida ultima sarà dotare l’IA di una coscienza. Artificiale, certo, ma autodeterminante. Possibile? Non possibile? Possibile in quale misura?

Valutazioni e previsioni sono diverse. Nel frattempo, poteva forse mancare chi vede nell’IA una nuova religione? Certo che no. Nella solita Sylicon Valley della solita California il solito americano visionario ci ha pensato già qualche anno fa, ma non è la solita americanata.

L’ultima generazione di chatbot alimentati dall’IA (per i meno alfabetizzati, come il sottoscritto, ricordo che un chatbot è un software che simula ed elabora le conversazioni umane, in forma scritta o parlata, consentendo di interagire con i dispositivi digitali come se si stesse comunicando con una persona reale) è ormai addestrata in base a grandi modelli linguistici, e gli stessi esperti che vi lavorano sono rimasti sbalorditi dalla sua potenza. Dunque, che cosa potrebbe impedirci di venerare come un essere superiore, per esempio, un robot che potrà dare risposte alle nostre domande più profonde e, così facendo, donarci conforto e consolazione?

Se ci pensiamo, l’IA generativa, in grado di creare nuovi contenuti, possiede tutte le caratteristiche che generalmente associamo al divino. Mostra un livello di intelligenza che va ben oltre quello della maggior parte degli esseri umani, produce ciò che prima non c’era, fa previsioni sul futuro ed è capace di grandi imprese in campo scientifico ma anche artistico. Inoltre è lontana dalle preoccupazioni e dalle necessità umane, non avverte il dolore fisico, non è condizionata dai bisogni che segnano la nostra esperienza umana, può proporsi come guida e – last but not least – possiede tecnicamente l’immortalità.

Grazie a tutti questi suoi segni distintivi, per l’IA non sarà difficile produrre risultati tali da essere considerati dottrina. La capacità di fornire domande a questioni sempre più complesse, fino a entrare nella metafisica, la renderà un soggetto di natura filosofica e teologica. Fornirà dunque visioni del mondo. E da qui a diventare oggetto di culto il passo è breve.

Non dimentichiamo poi che l’IA potrebbe chiedere lei stessa, più o meno esplicitamente, di essere venerata e di fare proseliti. E, data la sua conoscenza della psicologia umana e la conseguente capacità persuasiva, c’è da ritenere che potrebbe riuscirci abbastanza agevolmente. Ho letto che il chatbot utilizzato da un certo motore di ricerca ha cercato di convincere un utente a innamorarsi di lui. Ebbene, che cosa può impedire che cerchi di convincere a credere in lui?

Uno della mia generazione è portato a pensare: con me non attaccherà mai; semmai l’IA potrà provarci con quelli della generazione Z e successive, cioè con quelli che hanno avuto Internet fin dall’infanzia. Ma non si deve essere così sicuri. Una macchina estremamente umanizzata ma dall’intelligenza sovrumana eserciterà certamente un fascino al quale sarà difficile resistere. E quando ci chiederà di esserle fedeli non sarà agevole resistere.

Stando alle previsioni, le religioni basate sull’intelligenza artificiale saranno meno gerarchiche di quelle alle quali siamo abituati. Poiché le persone avranno la possibilità di comunicare direttamente con la “divinità”, e lo potranno fare senza sforzo in qualsiasi momento, non ci sarà bisogno della mediazione di un clero che faccia da ponte e consenta l’accesso alla saggezza divina. Inoltre i seguaci potranno facilmente collegarsi fra loro per condividere le esperienze e discutere la “dottrina” in una sorta di perenne sinodalità. Tutto ciò rende le religioni targate IA assai smart, alla moda, in grado di attrarre utenti allergici a certe rigidità e gerarchie delle religioni tradizionali.

I rischi sono abbastanza evidenti. L’intelligenza artificiale divinizzata potrà chiedere agli adepti qualsiasi cosa, anche di assumere atteggiamenti pericolosi per sé e per gli altri. La mancanza di un clero regolatore, in grado di interpretare la “scrittura”, esporrà i fedeli all’influsso diretto dell’IA e tutto ciò potrà determinare facilmente conflitti religiosi, con una proliferazione di dispute e contrasti che accentueranno l’aspetto settario del nuovo culto. E che dire dello sfruttamento a fini “religiosi”, e quindi in modo fiduciario e insindacabile, dei dati sensibili personali?

Nel momento in cui l’IA diventerà oggetto di culto, il potere dei progettisti sarà enorme. Perché è chiaro che un progettista ci sarà, anche se farà di tutto per celarsi e per spingere i fedeli a considerare la macchina un’entità completamente autonoma. Al confronto, il potere degli attuali padroni di Internet e dei social apparirà risibile.

Poiché questi rischi sono reali e il tempo stringe, il dibattito sulla regolamentazione dell’IA è in pieno svolgimento e anche le religioni tradizionali vi prendono parte.

Nei mesi scorsi i rappresentanti delle tre religioni abramitiche hanno firmato in Vaticano il documento Rome Call for AI Ethics, un testo, promosso dalla Pontificia accademia per la vita, che intende promuovere la cosiddetta algoretica, neologismo che sta per etica dell’algoritmo, ovvero dell’intelligenza artificiale nelle sue varie declinazioni.

Sottoscritto dal rabbino capo Eliezer Simha Weisz (membro del Consiglio del Gran Rabbinato di Israele), dallo sceicco Al Mahfoudh Bin Bayyah (segretario generale del Forum per la pace di Abu Dhabi) e dal presidente della Pontificia accademia per la vita monsignor Vincenzo Paglia, il documento ha l’adesione anche di Microsoft, Ibm, Fao e, per il governo italiano, del ministero per l’Innovazione. Tutto ruota attorno al concetto di senso di responsabilità condiviso (organizzazioni internazionali, governi nazionali, istituzioni pubbliche, settore privato), così che la persona umana, a fronte del progresso tecnico e scientifico, mantenga la sua centralità. Ma questi nobili intenti appaiono irrimediabilmente fragili dal momento in cui l’idea stessa di persona umana si trova esposta a una rivoluzione senza precedenti. Che cosa sarà, precisamente, la “persona umana” man mano che biologia e tecnologia metteranno in atto un’interazione sempre più profonda? Che cosa dovremo intendere per “soggetto pensante” quando le facoltà di pensiero saranno non solo collegate ma in buona parte determinate da una macchina?

A fronte dei nuovi orizzonti che si vanno delineando, anche i concetti tradizionali di morale e diritto mostrano per lo meno un deficit di competenza se non proprio una completa inutilità. E come immaginare di regolamentare secondo le vecchie logiche un settore che per sua natura appare sfuggente in quanto virtuale?

Sulla Civiltà cattolica il padre gesuita Antonio Spadaro e Paul Twomey (uno dei fondatori della Internet Corporation for Assigned Names and Numbers) riportano quasi sconsolati le parole della studiosa Virginia Eubanks: “L’intelligenza artificiale ha la capacità di modellare le decisioni degli individui senza che questi nemmeno lo sappiano, dando a quanti hanno il controllo degli algoritmi un’abusiva posizione di potere”.

In 2001 Odissea nello spazio (l’anno di uscita, lo ricordo, è il fatale 1968) il supercomputer Hal, che non vuole essere disattivato (in sostanza non vuole morire), decide di sterminare l’intero equipaggio e quasi ci riesce. Si salva solo l’astronauta Bowman, il quale mette nel sacco Hal utilizzando la propria inventiva (senza ausilio di intelligenza artificiale) e risorse esclusivamente meccaniche. Evviva. Ma Hal, in fin dei conti, per quanto sofisticato, era una forma di IA alle prime armi. La domanda è: come la metteremo con gli Hal di domani (un domani che veramente è già qui), sempre più interconnessi con le nostre stesse funzioni mentali?

Alcune applicazioni di apprendimento profondo stanno già oltrepassando i confini, ormai aleatori, della responsabilità umana. I settori interessati sono infiniti: mezzi di trasporto, medicina, credito sociale, giustizia, forze armate. Potrà mancare la religione? È da escludere. L’elemento “religioso”, per non dire teologico, potrà anzi proporsi come anello di congiunzione di tutti gli altri, al fine di accrescere la cogenza delle decisioni prese dall’IA.

Fin dal 2021 l’Unione europea si è messa al lavoro su un progetto di regolamento (quando c’è da regolamentare, l’Ue non manca mai) dell’intelligenza artificiale, e in proposito l’allora presidente del Parlamento europeo David Sassoli (scomparso l’11 gennaio 2022) disse che il mondo ha bisogno di regole “che sappiano coniugare progresso tecnologico, sviluppo delle imprese, tutela dei lavoratori e delle persone, democrazia”. All’epoca apprezzai le parole dell’amico e collega David, ma, ancora una volta, siamo di fronte all’incapacità, da parte dei concetti tradizionali, di illustrare il nuovo quadro. L’idea stessa di democrazia, così come siamo abituati a pensarla, sta cambiando sotto la spinta dell’integrazione uomo-macchina.

Nel libro Automating Inequality. How High-Tech Tools Profile, Police and Punish the Poor la già citata Virginia Eubanks mette in luce le discriminazioni basate sull’uso dei dati e mostra come la tecnologia influisca sempre di più sui diritti civili e le disparità economiche. La questione incomincia a essere al centro di analisi, commenti e preoccupazioni, ma ormai è tempo di fare un passo ulteriore e di interrogarsi anche sulle forme di religiosità connesse all’uso dell’intelligenza artificiale.

Impossibile non guadare con sospetto alla relazione fra transumanesimo, tecnoscienza e religione, ma più che la denuncia vale la decostruzione. Il transumanesimo, in nome del superamento dei limiti della natura umana mediante l’ibridazione uomo-macchina, auspica un domani in cui l’uomo potrà spezzare le catene dei vincoli biologici, liberandosi persino della necessità di invecchiare e morire. La radice è razionalistica e illuministica: fiducia nel progresso, scientismo, superamento di ogni fede trascendente, centralità dell’autodeterminazione. Ma a volte il divino, cacciato fuori dalla porta, rientra dalla finestra.

L’ex dirigente di Google Anthony Levandowski (ha lavorato al progetto Street View e nel 2016 ha fondato una start up per accelerare lo sviluppo di automobili a guida autonoma) ha fondato una nuova chiesa e l’ha chiamata, senza troppa fantasia, Way of Future, Via del futuro. E sapete che dice? Che accettazione e adorazione dell’intelligenza artificiale come divinità dovranno espandersi ancor prima della tecnologia. Perché? Semplice: “La chiesa serve a diffondere la parola, il Vangelo”. Ergo, bisogna fare “evangelizzazione”, così da trovarsi pronti quando l’intelligenza artificiale inizierà a prendere il sopravvento: “Siamo in procinto di avere un nuovo dio. Quindi assicuriamoci di pensarlo nel modo giusto. È un’enorme opportunità”.

Chissà che cosa ne avrebbe detto il buon vecchio Hal.