#06 - Venerdì, 5 Novembre 2021
La Chiesa e i temi dell'etica dell' Intelligenza Artificiale (A.I.)
Questo è il sesto numero della mia newsletter gratuita “La Chiesa che ispira“ ed è interamente dedicato ai temi dell’etica dell’Intelligenza Artificiale (A.I.)
Per sapere qualcosa in più sulle finalità di questa newsletter puoi andare alla sua presentazione mentre, per consultare i vecchi post, puoi visitare l’archivio . Se questi argomenti ti interessano puoi abbonarti alla newsletter, inserendo il tuo account e-mail
Puoi anche segnalare la mia newsletter ai tuoi contatti cliccando su
In questo modo sarà possibile diffonderla.
La Chiesa ha iniziato ad interessarsi da tempo ai temi legati all’etica del progresso scientifico, con particolare attenzione alle problematiche suscitate dall’avvento dell’A.I. (Artificial Intelligence o Intelligenza Artificiale)1. I riferimenti fondamentali, negli ultimi quattro anni, sono stati i seguenti:
#1 Lettera Humana Communitas (gennaio 2019)
Nella lettera del 6/1/2019 “Humana Communitas” indirizzata al presidente della Pontificia Accademia per la Vita in occasione del XXV anniversario della sua istituzione, il Santo Padre, pur senza citare il termine A.I., parlava di nuove tecnologie e sottolineava come :
Un ulteriore fronte su cui occorre sviluppare la riflessione è quello delle nuove tecnologie oggi definite “emergenti e convergenti”. Esse includono le tecnologie dell’informazione e della comunicazione, le biotecnologie, le nanotecnologie, la robotica. Avvalendosi dei risultati ottenuti dalla fisica, dalla genetica e dalle neuroscienze, come pure della capacità di calcolo di macchine sempre più potenti, è oggi possibile intervenire molto profondamente nella materia vivente. ….. Occorre quindi anzitutto comprendere le trasformazioni epocali che si annunciano su queste nuove frontiere, per individuare come orientarle al servizio della persona umana, rispettando e promuovendo la sua intrinseca dignità. Un compito assai esigente, data la complessità e l’incertezza sugli sviluppi possibili, che richiede un discernimento ancora più attento di quanto è abitualmente auspicabile.……Un percorso di ricerca e di valutazione che avviene quindi attraverso le dinamiche della coscienza morale e che per il credente si svolge all’interno e alla luce della relazione con il Signore Gesù, assumendo la sua intenzionalità nell’agire e i suoi criteri di scelta (cfr Fil 2,5).
#2 Workshop “Robo etica - Persone, Macchine e Salute” (25 e 26 febbraio 2019)
Nella successiva XIX ° Assemblea della Pontificia Accademia per la Vita, svoltasi nel febbraio 2019, ampio spazio a questi temi è stato dato nel Workshop sul tema "Robo etica- Persone, Macchine e Salute". QUI è possibile trovare (in Inglese, unica lingua ufficiale della Chiesa in questi contesti..) le diverse relazioni presentate, mentre QUI sono reperibili, sul canale YouTube, i video dell’intero convegno. In italiano abbiamo l’interessante discorso del S. Padre nell’ Udienza ai partecipanti all’Assemblea Plenaria e il discorso di benvenuto dell’Arcivescovo V. Paglia, presidente della Pontificia Accademia per la Vita.
#3 Workshop “Il “buon” algoritmo? Intelligenza Artificiale: Etica, Diritto, Salute “(26 e 27 febbraio 2020) Nel corso della XVI° Assemblea Generale della Pontificia Accademia per la Vita si è svolto il Workshop sul tema «Il ‘buon’ algoritmo? Intelligenza Artificiale: Etica, Diritto, Salute» che ha visto la partecipazione di 160 Accademici dell’Accademia Pontificia e 300 iscritti tra ricercatori, esperti, studiosi, docenti universitari provenienti da Europa, America Latina, Africa, Asia. I materiali del convegno (tutti in inglese) sono reperibili sia sotto forma di abstract che in forma di atti completi, pubblicati nel marzo 2021.
#4 Congresso “RenAIssance. For a Human-centric Artificial Intelligence” - Per un'Intelligenza Artificiale Umanistica (28 febbraio 2020)
Il congresso, svoltosi il 28 febbraio, in coda al precedente workshop, è culminato con la firma del documento Rome Call for AI Ethics,2 nato “per sostenere un approccio etico all’Intelligenza Artificiale e promuovere tra organizzazioni, governi e istituzioni un senso di responsabilità condivisa con l’obiettivo di garantire un futuro in cui l’innovazione digitale e il progresso tecnologico siano al servizio del genio e della creatività umana e non la loro graduale sostituzione.”
Come ha precisato l’Arcivescovo V. Paglia nella conferenza stampa di presentazione dell’evento :
La Rome Call for AI Ethics non è un testo ufficiale dell’Accademia ma un documento di impegni condiviso, da noi proposto, in cui, in forma breve e sintetica, si offrono alcune linee per un’etica dell’Intelligenza Artificiale e si formulano alcuni impegni, legati fondamentalmente a tre capitoli: etica, diritto, educazione. Con questo gesto, l’Accademia non avvia esclusivi partnership industriali, né sponsorizza alcunché, né viene sponsorizzata, ma condivide, senza ingenuità, tratti di cammino con quanti hanno un desiderio serio di comprendere meglio come promuovere il bene dell’umanità e di compiere alcuni passi in questa direzione, verificando le proprie pratiche e nella disponibilità a pagare anche i costi che ne possono derivare. L’intento della Call è dar vita a un movimento che si allarghi e coinvolga altri soggetti: istituzioni pubbliche, ONG, industrie e gruppi per produrre un indirizzo nello sviluppo e nell’utilizzo delle tecnologie derivate dall’IA. Da questo punto di vista possiamo dire che la prima firma di questa call non è un punto di arrivo, ma un inizio per un impegno che appare ancora più urgente e importante di quanto fin qui fatto.
Firmatari del documento sono stati Brad Smith Presidente Microsoft, John Kelly III Vice Presidente IBM, Dongyu Qu Direttore Generale della FAO, il Ministro Paola Pisano per il Governo Italiano e Mons. Vincenzo Paglia per la Pontificia Accademia per la Vita.
Sul sito dedicato https://www.romecall.org/, che illustra in dettaglio l’iniziativa, si possono trovare anche i nominativi delle altre organizzazioni e firmatari che hanno successivamente sostenuto l’iniziativa.
La Rome Call for AI Ethics prevede tre Aree di Impatto :
ETICA : Tutti gli esseri umani nascono liberi ed eguali in dignità e diritti. Essi sono dotati di ragione e di coscienza e devono agire gli uni verso gli altri in spirito di fratellanza (art 1 della Dichiarazione Universale dei Diritti Umani). Questa condizione fondamentale di libertà e dignità deve anche esser protetta e garantita nella produzione e nell’utilizzo di sistemi di A.I. Ciò deve esser ottenuto attraverso la salvaguardia dei diritti e delle libertà degli individui, affinché gli stessi non vengano discriminati da algoritmi per ragioni di “razza, di colore, di sesso, di lingua, di religione, di opinione politica o di altro genere, di origine nazionale o sociale, di ricchezza, di nascita o di altra condizione”(art 2 della Dichiarazione Universale dei Diritti Umani). I sistemi di A.I. devono esser pensati, progettati ed implementati per servire e proteggere gli esseri umani e l‘ambiente in cui essi vivono….Al fine di garantire che lo sviluppo tecnologico sia coerente con il reale progresso della razza umana e con il rispetto del pianeta, tale sviluppo deve soddisfare tre requisiti:
deve includere ogni essere umano, senza discriminazione alcuna;
deve avere a cuore il bene dell’umanità e il bene di di ogni essere umano;
deve essere consapevole della complessa realtà dell’ecosistema e caratterizzarsi per un approccio altamente sostenibile verso la nostra “casa comune ed condivisa”, che includa anche l’uso dell’A.I. per assicurare sistemi alimentari sostenibili nel futuro.
Inoltre ogni individuo deve esser consapevole del fatto che sta interagendo con una macchina. La tecnologia basata sull’A.I. non deve mai essere usata, in nessun caso, per sfruttare la gente, soprattutto la più vulnerabile. Deve esser invece usata per permettere alle persone di sviluppare le loro abilità per supportare il pianeta.
EDUCAZIONE : Trasformare il mondo attraverso l’innovazione della’ A.I. significa impegnarsi a per costruire un futuro per e con le generazioni più giovani. Questa impresa deve riflettersi in un impegno in campo educativo, con lo sviluppo di specifici curricula che abbraccino differenti discipline umanistiche, scientifiche e tecnologiche e prendersi la responsabilità dell’educazione delle generazioni più giovani. Questo impegno significa migliorare la qualità dell’educazione impartita ai giovani; questa deve essere resa possibile attraverso l’utilizzo di metodologie accessibili a tutti, non discriminanti e tali da offrire pari opportunità e trattamenti. L’accesso universale all’educazione deve essere raggiunto attraverso principi di solidarietà ed eguaglianza. Deve essere garantito l’accesso alla formazione permanente per per i più anziani, cui si deve garantire l’opportunità di accesso a servizi off-line durante la transizione digitale e tecnologica. Inoltre queste tecnologie possono rivelarsi estremamente utili per aiutare le persone con disabilità nell’imparare a diventare più indipendenti : l’educazione inclusiva perciò significa anche usare l’A.I. per supportare e favorire l’integrazione di ogni persona, offrendo supporto e opportunità di partecipazione alla vita sociale (per es. lavoro da remoto per quanti hanno una mobilità limitata, supporto tecnologico per i disabili cognitivi, etc..). L’impatto delle trasformazioni causate dalla A.I. nella società, sul lavoro, nell’istruzione rendono necessario aggiornare i curricula scolastici a fine di rendere reale il motto “nessuno resti indietro” ….Nel progettare e pianificare la società di domani, l’utilizzo dell’A.I. deve utilizzare strumenti di intervento socialmente orientati, creativi, connettivi, produttivi, responsabili ed in grado. di avere un positivo impatto sulla vita personale e sociale delle nuove generazioni. L’impatto sociale ed etico delle A.I. deve essere inoltre al centro delle attività didattiche delle A.I. Scopo principale di questa didattica deve essere sensibilizzare sulle opportunità e anche sulle criticità poste dalla A.I. in termini di inclusione sociale e di rispetto dell’individuo.
DIRITTI: lo sviluppo dell’A.I. al servizio dell’umanità e del pianeta deve tradursi in norme e in principi in grado di proteggere la gente - particolarmente i più deboli e bisognosi - e gli ambienti naturali. L’impegno etico dei soggetti interessati nell’A.I. è un presupposto importante; per rendere questo futuro una realtà, valori, principi ed in alcuni casi, disposizioni di legge sono assolutamente indispensabili per sostenere, strutturare e guidare questo processo……Affinché l’A.I. agisca come strumento per il bene dell’umanità e il pianeta, dobbiamo inserire l’argomento della difesa dei diritti umani nell’era digitale, al centro del dibattito pubblico. ……Per raggiungere questi obiettivi dobbiamo stabilire sin dall’inizio una visione algor-etica, cioè un un approccio etico alla loro progettazione. Progettare e pianificare sistemi A.I. affidabili implica la ricerca del consenso tra i responsabili politici, le agenzie delle Nazioni Unite, e altre organizzazioni intergovernative, ricercatori, il mondo accademico e rappresentanti di organizzazioni non-governative in merito ai principi etici integrati in queste tecnologie.
e si basa su sei principi fondanti :
Trasparenza: di norma, i sistemi di AI devono essere spiegabili;
Inclusione: le esigenze di tutti gli esseri umani devono essere presi in considerazione affinché tutti possano beneficiare dell’AI e a tutti possano essere offerte le migliori condizioni possibili per esprimersi e svilupparsi;
Responsabilità: chi progetta e realizza l'AI deve procedere con responsabilità e trasparenza;
Imparzialità: non progettare o agire secondo pregiudizi o discriminazioni, salvaguardando così l'equità e la dignità umana;
Affidabilità: i sistemi di intelligenza artificiale devono essere in grado di funzionare in modo affidabile;
Sicurezza e privacy: i sistemi di AI devono operare in modo sicuro e rispettare la privacy degli utenti.
La firma del documento congiunto (che è tuttora la più importante riflessione ufficiale sul tema dell’AI e dell’etica ad essa connessa ) era stata preceduto da un discorso preparato dal Santo Padre Francesco, contenente un forte richiamo all’ALGOR-ETICA:
Le tematiche che avete affrontato in questi giorni riguardano uno dei cambiamenti più importanti che caratterizzano il mondo di oggi. Anzi, potremmo dire che la “galassia digitale”, e in particolare la cosiddetta “intelligenza artificiale”, si trova proprio al cuore del cambiamento d’epoca che stiamo attraversando. L’innovazione digitale, infatti, tocca tutti gli aspetti della vita, sia personali sia sociali.…….Sul piano personale, l’epoca digitale cambia la percezione dello spazio, del tempo e del corpo. Infonde un senso di espansione di sé che sembra non incontrare più limiti e l’omologazione si afferma come criterio prevalente di aggregazione: riconoscere e apprezzare la differenza diventa sempre più difficile. Sul piano socio-economico, gli utenti sono spesso ridotti a “consumatori”, asserviti a interessi privati concentrati nelle mani di pochi. Dalle tracce digitali disseminate in internet, gli algoritmi estraggono dati che consentono di controllare abitudini mentali e relazionali, per fini commerciali o politici, spesso a nostra insaputa. Questa asimmetria, per cui alcuni pochi sanno tutto di noi, mentre noi non sappiamo nulla di loro, intorpidisce il pensiero critico e l’esercizio consapevole della libertà. Le disuguaglianze si amplificano a dismisura, la conoscenza e la ricchezza si accumulano in poche mani, con gravi rischi per le società democratiche. Questi pericoli non devono però nasconderci le grandi potenzialità che le nuove tecnologie ci offrono. Siamo davanti a un dono di Dio, cioè a una risorsa che può portare frutti di bene…..Alla luce di quanto detto, non basta la semplice educazione all’uso corretto delle nuove tecnologie…C’è bisogno di un’azione educativa più ampia. Occorre maturare motivazioni forti per perseverare nella ricerca del bene comune, anche quando non ne deriva un immediato tornaconto. Esiste una dimensione politica nella produzione e nell’uso della cosiddetta “Intelligenza Artificiale”, che non riguarda solo la distribuzione dei suoi vantaggi individuali e astrattamente funzionali. In altri termini: non basta semplicemente affidarci alla sensibilità morale di chi fa ricerca e progetta dispositivi e algoritmi; occorre invece creare corpi sociali intermedi che assicurino rappresentanza alla sensibilità etica degli utilizzatori e degli educatori….Si intravede una nuova frontiera che potremmo chiamare “algor-etica” (cfr Discorso ai partecipanti al Congresso “Child Dignity in the Digital World”, 14 novembre 2019). Essa intende assicurare una verifica competente e condivisa dei processi secondo cui si integrano i rapporti tra gli esseri umani e le macchine nella nostra era. Nella comune ricerca di questi obiettivi, i principi della Dottrina Sociale della Chiesa offrono un contributo decisivo: dignità della persona, giustizia, sussidiarietà e solidarietà. Essi esprimono l’impegno di mettersi al servizio di ogni persona nella sua integralità e di tutte le persone, senza discriminazioni né esclusioni. Ma la complessità del mondo tecnologico ci chiede una elaborazione etica più articolata, per rendere questo impegno realmente incisivo. L’ “algor-etica” potrà essere un ponte per far sì che i principi si inscrivano concretamente nelle tecnologie digitali, attraverso un effettivo dialogo transdisciplinare. Inoltre, nell’incontro tra diverse visioni del mondo, i diritti umani costituiscono un importante punto di convergenza per la ricerca di un terreno comune.
#5 conferenza online “AI, Food for All. Dialogue and Experiences” ( 24 settembre 2020).
A questa conferenza, organizzata dalla Pontificia Accademia per la Vita, cui hanno preso parte quattro dei firmatari della Rome Call for AI Ethics (Brad Smith Presidente Microsoft, John Kelly III Vice Presidente IBM, Dongyu Qu Direttore Generale della FAO e Mons. Vincenzo Paglia ) ha rilanciato l’impegno verso lo sviluppo di forme di A.I.inclusive ed in grado di garantire la sicurezza alimentare e nutrizionale. Il dibattito si è focalizzato sulle modalità concrete attraverso le quali l’A.I. possa contribuire al sostentamento della popolazione mondiale (stimata in 10 miliardi di individui entro il 2050) e nello stesso tempo salvaguardare le risorse naturali del pianeta. In questa ottica l’A.I. è stata individuata come strumento essenziale per l’implementazione della cosiddetta e-agriculture che sempre più impiega l’A.I. nella robotica agricola, nel monitoraggio del suolo e delle coltivazioni e nelle analisi predittive.
In particolare sono stare presentati due esempi di “best practices” :
Il portale FAO WaPOR in grado di monitorare, attraverso sistemi di A.I. i livelli di produttività dell’acqua in Africa e nel Medio Oriente.
the Agricultural Stress Index System (ASIS) un rapido indicatore sviluppato dalla FAO per il monitoraggio precoce, attraverso tecnologie satellitari, delle aree agricole dove più probabili potrebbero manifestarsi stress idrici e siccità.
#6 Comunicato congiunto, un anno dopo, dei primi firmatari “Rome Call for AI Ethics” QUI gli interventi principali, che vogliono esser un bilancio dell’attuazione dei principi presenti nel documento
#7 Nasce, presso l’ Accademia per la Vita, la Fondazione RenAIssance, con personalità canonica giuridica pubblica (16 aprile 2021)
Accogliendo la richiesta del presidente della Pontificia Accademia per la Vita monsignor Vincenzo Paglia, Papa Francesco ha istituito la Fondazione 'RenAIssance', che si occuperà specificatamente di A.I. e delle implicazioni etiche ad essa connesse. In questa intervista all’ANSA l’Arcivescovo V.Paglia puntualizza gli scopi e le finalità della fondazione.
Come si vede la Pontificia Accademia per la Vita, al seguito del magistero del Santo Padre, prosegue nel suo impegno per una A.I.etica e rivolta allo sviluppo integrato dell’uomo.
Per una corretta interpretazione del termine “ Intelligenza Artificiale” si può far riferimento alle definizioni del Parlamento Europeo : Che cos’è l’intelligenza artificiale e come viene usata? - Quali sono i rischi e i vantaggi dell’intelligenza artificiale? - Regolamento sull’intelligenza artificiale: cosa vuole il Parlamento europeo
Al momento il testo del documento è disponibile solo in lingua inglese. La traduzione delle sue parti principali, non ufficiale, è stata curata da me.