Ecco a voi “Padre Justin”. Parroco virtuale, frutto dell’intelligenza artificiale. E subito ritirato
In questi nostri tempi i cattolici difficilmente si sorprendono se un sacerdote controverso finisce sulle prime pagine dei giornali o riceve molte critiche sui social media.
Ma di solito il prete in questione, se ha fatto qualcosa di sbagliato o almeno ne è stato accusato, è vero.
La storia di “Padre Justin” è un po’ diversa.
“Padre Justin” in realtà non è affatto un sacerdote. Ma non è nemmeno una persona reale. Nasce da Catholic Answers, un’organizzazione no-profit di San Diego che si occupa di apologetica ed ha annunciato il lancio di questo nuovo esperimento di intelligenza artificiale, appunto il sacerdote-avatar “Padre Justin”, progettato per rispondere a domande sulla fede cattolica utilizzando il materiale raccolto nella biblioteca di Catholic Answers, composto da articoli, discorsi e testi di apologetica.
L’esperimento in breve ha fatto discutere e centinaia di cattolici lo hanno criticato online. Alcuni hanno detto che l’avatar del sacerdote era inappropriato, fuorviante o semplicemente inquietante. Alcuni hanno sostenuto che il sacerdote simulava sacramenti virtuali (e in effetti, “Padre Justin” ha ascoltato volentieri una nostra “confessione” prima di darci alcuni consigli e recitare le parole dell’assoluzione). Altri ancora hanno osservato che un progetto apologetico di intelligenza artificiale si appoggia troppo pesantemente a una tecnologia inaffidabile, controversa e ancora confusa.
Nonostante le critiche, il direttore operativo di Catholic Answers, Jon Sorensen, ha dichiarato di non voler mettere l’esperimento del tutto da parte. Il responsabile dell’organizzazione ha riferito che lavorerà per rivedere l’esperimento (probabilmente eliminando del tutto il personaggio del sacerdote) ma che ritiene che l’IA possa avere un posto nell’insegnamento della fede cattolica.
In questa intervista, Sorensen dichiarato che, a prescindere da ciò che si può dire di “Padre Justin”, l’intelligenza artificiale generativa è qui per restare e che secondo lui i cattolici dovrebbero imparare a lavorare con essa.
Qual era l’obiettivo dell’esperimento “Padre Justin”? Cosa sperava di ottenere Catholic Answers?
Il primo motivo all’origine del progetto è che l’IA non sta scomparendo, anzi. La si vede spuntare sempre più spesso su Internet. Per me e la mia squadra era una buona opportunità per imparare molto di più su come funziona e su ciò che ne deriva. Da questo punto di vista, l’esperimento è stato estremamente utile. Sei mesi fa non sapevo nulla di IA. Ora ne so molto di più e ho molte idee su come utilizzarla. La seconda ragione è che ci sono domande a cui non riusciamo a rispondere. A Catholic Answers riceviamo tonnellate di e-mail e sul nostro sito web c’è un motore di ricerca, ma molte persone non lo usano. Così abbiamo pensato che questa potesse essere una buona idea per cercare di trovare un altro modo interessante e divertente – un po’ da cartone animato, se vogliamo – per dare alle persone risposte legittime sulla fede cattolica. L’ingegneria di base è ciò che conta davvero nell’IA, e nel nostro progetto era piuttosto adeguata e sviluppata.
Ovviamente, mi chiederete il perché del personaggio. Abbiamo scelto un prete per due ragioni: era una buona opportunità, per me e la mia troupe, di imparare l’uso dell’IA, e speravamo che fosse un modo interessante e originale per dare alla gente risposte sulla fede cattolica. Di certo non volevamo che fosse una guida spirituale, ed è per questo che abbiamo inserito clausole di esclusione della responsabilità.
Quanto è costato il progetto? Qual è stato l’investimento?
Per la maggior parte il progetto è stato seguito dai nostri dipendenti di Catholic Answers, quindi l’investimento ha riguardato l’apprendimento di ciò che avremmo potuto fare, con una spesa di circa diecimila dollari.
Già nelle prime ventiquattro ore dal lancio di “Padre Justin” avete avuto moltissime reazioni online. Secondo lei, perché?
Guardando i commenti che ho ricevuto su Twitter, penso che le persone non si sentano a proprio agio con un sacerdote nato dall’IA, il che va benissimo, e d’altra parte noi non siamo legati a questo personaggio. Sembra però esserci anche un malinteso su come funziona l’IA, o forse una paura generale. Nel Web si vede che molte persone la prendono in giro e cercano di smontarla. Ma anche questo atteggiamento ci aiuta a migliorarla.
Ho fatto molte domande a “Padre Justin” e molte risposte sono state corrette. Ma ho anche avuto due esperienze che potrebbero essere motivo di preoccupazione. In primo luogo, ho chiesto a “Padre Justin” di ascoltare la mia confessione, e l’ha fatto, simulando una “confessione virtuale”, fino a darmi l’assoluzione e una penitenza. In secondo luogo, ho chiesto se potevo battezzare il mio bambino con il Gatorade in caso di emergenza, e “Padre Justin” mi ha risposto di sì, il che ovviamente non è vero! Ma non sono stato l’unico ad avere questo tipo di esperienze, come si vede dai commenti. Che cosa imparerà Catholic Answers dal modo in cui le persone interagiscono con l’IA?
Innanzitutto che voglio sempre essere attenti a chiunque sia interessato e curioso verso la fede cattolica. Non è mai nostro desiderio allontanare le persone o creare qualcosa che possa causare scandalo. Una cosa che vorrei sottolineare: abbiamo trascorso molto tempo, sei mesi, a fare il beta-testing [fase di prova e collaudo del software, allo scopo di trovare eventuali errori, N.d.T.], ma ho imparato che si può fare il test anche per un anno e comunque ci saranno sempre dei buchi. Ci sarà sempre qualcuno che affronterà una data questione da un’angolazione leggermente diversa da quella prevista, o penserà a una domanda che noi non avevamo immaginato. Ma è l’unico modo per migliorare. E se non ci lavoriamo affatto, se non cerchiamo di conoscere e capire l’IA, il mondo cattolico resterà indietro.
A quanto pare siete impegnati a provarci: l’intento è usare l’intelligenza artificiale per fornire risposte sulla fede cattolica. Ma che cosa dovrete cambiare, rispetto a “Padre Justin”, in risposta alle reazioni che state ricevendo?
Beh, sicuramente cercheremo di correggere le falle che la gente sta trovando e probabilmente cambieremo il personaggio. Come ho detto, non è mia intenzione suscitare scandalo. Anche se non condivido necessariamente le preoccupazioni sul personaggio, non vogliamo scandalizzare nessuno. E non è certo un grosso problema cambiare il personaggio; probabilmente ci vorranno solo un paio di giorni..
In origine avevamo scelto un frate francescano, ma abbiamo deciso di optare per un parroco perché non avrebbe dato l’impressione di favorire una spiritualità rispetto a un’altra e perché il parroco è una figura più comune. Volevo che la figura fosse subito riconoscibile come cattolica, ma se dovremo ricorrere a un look più generico, lo faremo, anche se un po’ mi spiace. Mi interessa il carattere del sacerdote e il suo sviluppo.
Ho chiesto a “Padre Justin” dove fosse stato incardinato e quale fosse la sua vocazione, e lui mi ha dato risposte su se stesso. Una storia che avete sviluppato voi o è stato il Large Language Model [tecnologia IA incentrata sulla comprensione e l’analisi del testo, N.d.T.] che ha creato una risposta sul momento?
Probabilmente molto è stato scritto all’origine. C’è un’ingegnerizzazione immediata sullo sfondo dell’IA, e il personaggio ha una storia alle spalle, che aiuta a creare barriere di sicurezza per l’IA. Il personaggio deve essere ben pensato, in modo che non cerchi sempre di deviare. Come ho detto, con l’IA le cose possono sempre cambiare e probabilmente tra un anno dovremo apportare altre correzioni, ma tutto ciò non è molto diverso da quello che facciamo sul sito web. Le persone che ci contattano per una risposta su catholic.com possono sempre dire che la risposta è terribile o non chiara o altro. In genere, in questi casi la prendo e la invio ai nostri esperti di apologetica. Loro la esaminano e se c’è bisogno di apportare modifiche nella risposta, lo facciamo. Il sito stesso evolve costantemente e lavoriamo sempre sui contenuti per cercare di migliorarli. Con l’IA avviene lo stesso, solo che l’unico modo per farlo è che tutto sia davvero pubblico, perché sono gli utenti che trovano i buchi e gli errori a cui noi non abbiamo pensato e non siamo riusciti a prevenire.
C’è però un problema di fondo nel lavoro apologetico e catechetico. Se una persona chiama il vostro programma radiofonico, Catholic Answers Live, parla con una persona alla radio. Se scrive a un esperto apologetica, riceve una risposta da una persona. La natura dell’apologetica e della catechesi è interpersonale e relazionale, ma l’approccio dell’IA sembra cambiare completamente le cose.
È vero che i nostri apologeti vanno a tenere conferenze e fanno programmi radiofonici. Ogni giorno rispondiamo a circa otto domande. E quando gli apologeti escono a parlare, di solito si rivolgono al massimo a qualche migliaio di persone. Ma la stragrande maggioranza delle domande e delle risposte che le persone ottengono da noi proviene da persone che cercano su Internet. Quindi già adesso il tutto non è così interpersonale come si dice. E questo è parte del problema: riceviamo tonnellate di domande, con più di due milioni di visite al mese su catholic.com, e un video di un apologeta di Catholic Answers come Trent Horn può arrivare fino a 50 mila visualizzazioni subito dopo la sua uscita. Quindi la stragrande maggioranza dei contatti non avviene in modo veramente interpersonale. Certo, preferirei che tutte le relazioni fossero dirette e personali, ma non abbiamo un numero sufficiente di esperti per un tale lavoro. E non abbiamo i soldi per assumere abbastanza persone per rispondere al numero di domande che ci arrivano. Quindi cerchiamo solo modi creativi per aiutare gli utenti a conoscere meglio la loro fede.
Nonostante il vostro impegno, molte persone hanno suggerito a Catholic Answers di accantonare l’esperimento dell’intelligenza artificiale. Ma voi dite di essere impegnati a migliorarlo. Perché è così importante per voi?
Perché l’IA è già qui. Anche se ci sbarazzassimo del tutto dell’avatar e lo rendessimo un altro chatbot, sarebbe comunque un altro buon modo per le persone di ottenere risposte. E sapete una cosa? Quando si è imprenditori e sperimentatori – il che è nella mia natura -, c’è anche un’assunzione di responsabilità. È quello che sto facendo e va bene così.
Nota
Poco dopo la pubblicazione di questo articolo, Catholic Answers ha confermato di aver deciso di abbandonare il personaggio di “Padre Justin” durante la revisione della sua iniziativa sull’AI.
Fonte: pillarcatholic.com
________________
Nell’immagine, “Padre Justin”, il prete frutto dell’IA. Di sé dice di essere stato ordinato venticinque anni fa e di essere incardinato nella diocesi di Assisi (Catholic Answers/screenshot)
