Vaticano pubblica documento sulla IA: invito alla prudenza

La nota apparsa oggi, Antiqua et Nova, sull’ AI, sembra essere sottotitolata “Attenzione”

Foto: Markus Winkler su Unplash

Redazione (28/01/2025 19:48, Gaudium Press) Il Vaticano ha pubblicato una nota sull’intelligenza artificiale, che sta già facendo il giro del mondo. Più precisamente, la nota proviene dal Dicastero per la Dottrina della Fede e dal Dicastero per la Cultura e l’Educazione.

Il suo nome, Antiqua et nova, deriva da un passo del Vangelo di Matteo in cui “Gesù dice che i dottori della Legge, che hanno conosciuto il regno dei cieli, sono come i proprietari di una casa, che tirano fuori tesori nuovi e vecchi da ciò che hanno conservato”. Questa citazione è stata prodotta da Gemini, l’intelligenza artificiale di Google, in qualche modo legata all’argomento di questa nota che riguarda proprio l’IA e più precisamente il “rapporto tra intelligenza artificiale e intelligenza umana”.

Ma siccome tutto il mondo è solito incensare gli sviluppi dell’Intelligenza Artificiale, (incenso e dollari, basti vedere che Trump praticamente in uno dei suoi primi atti di governo ha annunciato un investimento di 500.000.000.000.000 di dollari), il Vaticano sembra intenzionato a mettere in guardia dai rischi e dai pericoli non da poco che si nascondono in tutti questi percorsi.

“C’è un ampio consenso sul fatto che l’IA segni una nuova fase significativa nel rapporto dell’umanità con la tecnologia, ponendola al centro di quello che Papa Francesco ha descritto come un ‘cambiamento d’epoca’. La sua influenza si fa sentire a livello globale in un’ampia gamma di settori”, si legge al punto 4 del documento.

Nel frattempo è chiaro che, ad esempio, il pieno potenziale dell’IA potrebbe aumentare le capacità belliche “ben oltre la portata del controllo umano”, accelerando “una corsa agli armamenti destabilizzante con conseguenze devastanti per i diritti umani”.

È un prodotto che può essere orientato al bene o al male.

“Ingannevole”, si legge, è usare la parola stessa ‘intelligenza’ per riferirsi all’IA: non è “una forma artificiale di intelligenza”, ma “uno dei suoi prodotti”. E come ogni prodotto dell’ingegno umano, anche l’IA può essere orientata verso “fini positivi o negativi”. L’intelligenza artificiale può sì introdurre “importanti innovazioni”, ma rischia anche di aggravare situazioni di discriminazione, povertà, divario digitale, disuguaglianze sociali. Suscita “preoccupazioni etiche” il fatto che “la maggior parte del controllo sulle principali applicazioni dell’IA sia concentrato nelle mani di poche e potenti aziende”, cosicché questa tecnologia finisce per essere manipolata per “vantaggi personali o aziendali”.

In guerra

In riferimento alla guerra, sottolinea che i sistemi di armi autonome e letali in grado di “identificare e attaccare obiettivi senza l’intervento diretto dell’uomo” costituiscono un “serio problema etico”. Queste tecnologie “conferiscono alla guerra un potere distruttivo incontrollabile, che colpisce molti civili innocenti, senza risparmiare nemmeno i bambini”, afferma Antiqua et Nova.

Nelle relazioni umane

Per quanto riguarda le relazioni umane, il documento osserva che l’IA può portare a un “dannoso isolamento”, che “l’antropomorfizzazione dell’IA” pone problemi per la crescita dei bambini e che rappresentare l’IA come una persona è “una grave violazione etica” se usata per scopi fraudolenti. Allo stesso modo, l’uso dell’IA per ingannare in contesti come l’educazione, le relazioni, la sessualità, è “non etico e richiede un attento monitoraggio”.

Economia e lavoro

La stessa vigilanza si impone nella sfera economico-finanziaria. In particolare, nel campo del lavoro si sottolinea che, se da un lato l’IA ha il “potenziale” di aumentare le competenze e la produttività, dall’altro può “dequalificare i lavoratori, sottoporli a una sorveglianza automatizzata e relegarli a funzioni rigide e ripetitive”.

Nella salute

Riconoscendo il grande potenziale per varie applicazioni in campo medico, avverte che se l’IA dovesse sostituire il rapporto medico-paziente, rischierebbe di “peggiorare” la solitudine che spesso accompagna la malattia.

Nell’istruzione

Anche nel settore dell’istruzione vengono evidenziati dei rischi. Se usata con saggezza, l’IA può migliorare l’accesso all’istruzione e fornire “informazioni immediate” agli studenti.

Foto: Andrea de Santis / Unplash

Il problema è che molti programmi “si limitano a fornire risposte invece di spingere gli studenti a trovarle da soli o a scrivere testi da soli”; il che porta a un mancato sviluppo del pensiero critico. Per non parlare della quantità di “informazioni distorte o inventate” e di “fake news” che alcuni programmi possono generare.

Fake News e Deepfake

Per quanto riguarda le fake news, il documento avverte sul grave rischio che l’intelligenza artificiale “generi contenuti manipolati e informazioni false”, che vengono poi diffuse per “fuorviare o danneggiare”. L’invito è quello di “fare sempre attenzione a controllare la veridicità” di ciò che viene diffuso e di evitare, in ogni caso, di “condividere parole e immagini che degradano l’essere umano”, escludendo “ciò che alimenta l’odio e l’intolleranza” o svilisce “l’intimità della sessualità umana”.

Privacy e controllo

Per quanto riguarda la privacy e il controllo, la Nota rileva che alcuni tipi di dati possono toccare “persino la propria coscienza”, con il rischio che tutto diventi “una sorta di spettacolo che può essere spiato”. “La sorveglianza digitale può essere usata per esercitare un controllo sulla vita dei credenti e sull’espressione della loro fede”.

Il rapporto con Dio

Infine, la Nota mette in guardia dal rischio che gli esseri umani diventino “schiavi della loro stessa creazione”. Da qui la raccomandazione: “L’intelligenza artificiale dovrebbe essere usata solo come strumento complementare all’intelligenza umana e non sostituirne la ricchezza”.

Con informazioni tratte da Vatican News.