Cumu fà l’intelligenza artificiale etica? Discours du pape François au G7
Publicemu u discorsu di u Papa Francescu à l'occasione di a so participazione à a sessione di u G7 nantu à l'intelligenza artificiale
Un strumentu fascinante è tremendu
Cari Signori, Distinguisi Signori !
Oghje m'aghju indirizzatu à voi, Leader di u Forum Intergovernamental G7, cù una riflessione annantu à l'effetti di l'intelligenza artificiale nantu à u futuru di l'umanità.
«A Sacra Scrittura attesta chì Diu hà datu à l'omi u so Spìritu per ch'elli anu «sapienza, intelligenza è cunniscenza in ogni tipu di travagliu» ( Ex 35,31) » [1] . A scienza è a tecnulugia sò dunque prudutti straordinarii di u putenziale criativu di noi umani [2] .
Eppo, hè precisamente da l'usu di stu putenziale criativu chì Diu ci hà datu chì l'intelligenza artificiale vene à a luce.
L'ultime, cum'è hè cunnisciutu, hè un strumentu estremamente putente, utilizatu in parechji spazii di l'azzione umana: da a medicina à u mondu di u travagliu, da a cultura à u campu di a cumunicazione, da l'educazione à a pulitica. È oramai hè legittimu di ipotisà chì u so usu hà da influenzà sempre più u nostru modu di vita, i nostri rilazioni suciali è in u futuru ancu a manera di cuncepimentu di a nostra identità cum'è esseri umani [3] .
U tema di l'intelligenza artificiale hè, quantunque, spessu percepitu com'è ambivalente : d'una banda, entusiasma per e pussibulità chì offre, da l'altra genera paura per e cunsequenze ch'ella suggerisce. In stu riguardu, si pò dì chì tutti simu, ancu s'ellu in una misura sfarente, attraversati da duie emozioni : simu entusiasti quandu imaginemu u prugressu chì pò derivà da l'intelligenza artificiale, ma, à tempu, simu spavintatu quandu avemu vistu i periculi inherenti à u so usu [4] .
Inoltre, ùn pudemu micca dubbità chì l'avventu di l'intelligenza artificiale rapprisenta una vera rivoluzione cognitivo-industriale, chì cuntribuisce à a creazione di un novu sistema suciale carattarizatu da cumplessi trasfurmazioni epocali. Per esempiu, l'intelligenza artificiale puderia permette una demucratizazione di l'accessu à a cunniscenza, u prugressu esponenziale di a ricerca scientifica, a pussibilità di delegà u travagliu strenuous à i machini; ma, à u listessu tempu, puderia purtà cun ella una inghjustizia maiò trà e nazioni avanzate è e nazioni in via di sviluppu, trà e classi suciali duminanti è e classi suciali oppresse, mettendu cusì in periculu a pussibilità di una « cultura di l’incontru » à u vantaghju di una « cultura di l’imitazione ». ".
L'estensione di sti trasfurmazioni cumplessi hè ovviamente ligata à u rapidu sviluppu tecnologicu di l'intelligenza artificiale stessu.
Precisamente questu avanzamentu tecnulugicu vigoru fa di l'intelligenza artificiale un strumentu fascinante è terribili à u stessu tempu è esige una riflessione chì hè à u compitu.
In questa direzzione forse pudemu partendu da l'osservazione chì l'intelligenza artificiale hè prima di tuttu un strumentu . È hè naturali di dì chì i benefizii o dannu chì portarà dependeranu di u so usu.
Questu hè certamente veru, postu chì questu hè statu u casu per ogni strumentu custruitu da l'omu da l'alba di u tempu.
Sta nostra capacità di custruì arnesi, in una quantità è cumplessità chì ùn hà uguali trà i viventi, suggerisce una cundizione tecnu-umana : l’omu hà sempre mantenutu una relazione cù l’ambiente mediata da l’arnesi ch’elli pruducianu à pocu à pocu. Ùn hè pussibule di separà a storia di l'omu è a civilisazione da a storia di sti strumenti. Qualchissia hà vulsutu leghje in tuttu questu una spezia di carenza, di carenza, di l'omu, cum'è s'ellu, per via di sta mancanza, era custrettu à dà vita à a tecnulugia [5] . Un sguardu attentu è obiettivu ci mostra veramente u cuntrariu. Vivemu in una cundizione di addiziunalità in quantu à u nostru esse biologicu; simu esseri sbilanciati versu l'esternu di noi stessi, anzi radicali aperti à l'oltre. Hè quì chì a nostra apertura à l'altri è à Diu nasce; da quì vene u putenziale criativu di a nostra intelligenza in termini di cultura è bellezza ; infine, a nostra capacità tecnicu vene da quì. A tecnulugia hè dunque una traccia di a nostra avanzata.
Tuttavia, l'usu di i nostri arnesi ùn hè micca sempre destinatu à u bonu. Ancu s'è l'omu sente in sè stessu una vucazione à l'oltre è à a cunniscenza vissuta cum'è strumentu di bè à u serviziu di i fratelli è di a casa cumuna (cf. Gaudium et spes , 16), questu ùn hè micca sempre. En effet, pas rarement, grâce à sa liberté radicale, l'humanité a perverti les finalités de son être en se transformant en ennemie d'elle-même et de la planète [6] . Strumenti tecnulugichi ponu avè a listessa sorte. Solu s'ellu hè garantita a so vucazione à u serviziu di l'umanità, l'arnesi tecnulugichi palesarà micca solu a grandezza è a dignità unica di l'omu umanu, ma ancu u mandatu ch'ellu hà ricevutu per "cultivare è salvaguardà" (vede Gen 2,15) pianeta è tutti i so abitanti. Parlà di tecnulugia hè di parlà di ciò chì significa esse umanu è dunque di a nostra cundizione unica trà libertà è rispunsabilità, vale à dì parlà d’etica.
Difatti, quandu i nostri antenati affilavanu e petre di selce per fà i culteddi, l'utilizavanu tramindui per tagliate a pelle pè a robba è per tumbà l'altri. U stessu puderia esse dettu di altre tecnulugii assai più avanzate, cum'è l'energia prodotta da a fusione di l'atomi cum'è succede nantu à u Sole, chì puderia esse certamente aduprata per pruduce energia pulita è rinnuvevule, ma ancu per riduce u nostru pianeta à un munzeddu di cendra. .
L'intelligenza artificiale, però, hè un strumentu ancu più cumplessu. Diceraghju quasi chì hè un strumentu sui generis . Cusì, mentri l'usu di un strumentu simplice (cum'è un cuteddu) hè sottu à u cuntrollu di l'essere umanu chì l'utiliza è u so bonu usu dipende solu da l'ultime, l'intelligenza artificiale, invece, pò adattà in modu autonomu à u compitu. chì li hè attribuita è, s'ellu hè cuncepitu cù sta modalità, fà scelte indipindenti di l'essere umanu per ghjunghje l'ughjettu stabilitu [7] .
Hè sempre degne di ricurdà chì a macchina pò, in certi formi è cù questi novi mezi, pruduce scelte algoritmiche. Ciò chì a macchina faci hè una scelta tecnica trà parechje pussibulità è hè basatu nantu à criteri ben definiti o in inferenze statistiche. L'omu, però, ùn solu sceglie, ma in u so core hè capaci di decide. A decisione hè un elementu chì pudemu definisce più strategicu chè una scelta è esige una valutazione pratica. Calchì volta, spessu in u compitu difficiule di guvernà, simu chjamati à piglià decisioni cù cunsequenze per parechje persone. In questu sensu, a riflessione umana hà sempre parlatu di a saviezza, a phronesis di a filusufìa greca è almenu in parte a saviezza di a Sacra Scrittura. Di fronte à i prodigii di i machini, chì parenu sapè à sceglie indipindentamente, ci vole à esse chjaru chì l'essere umanu deve esse sempre lasciatu cù a decisione, ancu cù i toni drammatici è urgenti cù quale questu qualchì volta appare in a nostra vita. Cundannaremu l'umanità à un futuru senza speranza s'è no pigliemu à e persone a capacità di decide di sè stessu è di a so vita, cundannendu à dipende di e scelte di e macchine. Avemu bisognu di guarantiscia è prutege un spaziu significativu di cuntrollu umanu nantu à u prucessu di scelta di prugrammi di intelligenza artificiale: a dignità umana stessu hè in ghjocu.
Precisamente nant'à sta questione, permettemi d'insistì : in un dramma cum'è quellu di i cunflitti armati hè urgente di ripensà u sviluppu è l'usu di dispusitivi cum'è i cosiddetti "armi autonomi letali" per pruibisce u so usu, principiendu dighjà cù un impegnu attivu è cuncretu per intruduce un cuntrollu umanu sempre più grande è significativu. Nisuna machina ùn deve mai sceglie di piglià a vita di un esse umanu.
Hè ancu esse aghjuntu chì u bonu usu, almenu di e forme avanzate di intelligenza artificiale, ùn serà micca cumplettamente sottu u cuntrollu di l'utilizatori o di i programatori chì anu definitu i so scopi originali à u mumentu di a so cuncepimentu. È questu hè ancu più veru chì hè assai prubabile chì, in un futuru micca troppu distante, i prugrammi di intelligenza artificiale puderanu cumunicà direttamente cù l'altri, per migliurà a so prestazione . È, s'è in u passatu, l'omu chì furmaru arnesi simplici anu vistu a so esistenza furmata da elli – u cultellu li permette di sopravvive à u friddu, ma ancu di sviluppà l'arti di a guerra – avà chì l'omu anu furmatu un strumentu cumplessu, u vedrà furmà a so esistenza. ancu di più [8] .
U mecanismu di basa di l'intelligenza artificiale
Vogliu avà cuncentratu brevemente nantu à a cumplessità di l'intelligenza artificiale. In a so essenza, l'intelligenza artificiale hè un strumentu cuncepitu per risolve un prublema è travaglia per mezu di una catena logica di operazioni algebriche, realizate nantu à categurie di dati, chì sò paragunati per scopre correlazioni, migliurà u so valore statisticu, grazia à un self- prucessu di apprendimentu, basatu nantu à a ricerca di più dati è nantu à l'automudificazione di e so prucedure di calculu.
L'intelligenza artificiale hè dunque pensata à risolve i prublemi specifichi, ma per quelli chì l'utilizanu a tentazione di tirà deduzioni ginirali, ancu di natura antropologica, da e suluzioni specifiche ch'ella prupone hè spessu irresistibile.
Un bon esempiu hè l'usu di prugrammi pensati per aiutà i magistrati in e decisioni riguardanti l'accordu di l'arrestu di casa à i prigiuneri chì servenu una pena in una istituzione carceraria. In questu casu, l'intelligenza artificiale hè dumandata à predichendu a probabilità di ripetiri u crimine fattu da una persona cundannata partendu da categurie predeterminate (tipu di crimine, cumportamentu in prigiò, valutazioni psicologichi è più), chì permettenu à l'intelligenza artificiale avè accessu. à categurie di dati riguardanti a vita privata di u prigiuneru (urìgine etnica, livellu educativu, linea di creditu è più). L'usu di una tale metodulugia – chì qualchì volta risicate di delegà di facto l'ultima parola nantu à u destinu di una persona à una macchina – pò purtà implicitamente cun ella a riferenza à i preghjudizii inerenti à e categurie di dati utilizati da l'intelligenza artificiale.
Esse classificatu in un certu gruppu etnicu o, più prosaically, avè fattu una infrazione minore anni prima (ùn avè pagatu, per esempiu, una multa per parcheghju pruibitu), in fattu, influenzerà a decisione in quantu à a cuncessione di arresti domiciliari. À u cuntrariu, l'essere umanu hè sempre in evoluzione è hè capaci di sorprenderà cù e so azzioni, qualcosa chì a macchina ùn pò micca piglià in contu.
Ci hè ancu da nutà chì l'applicazioni simili à quella appena citata subiranu una accelerazione grazia à u fattu chì i prugrammi di intelligenza artificiale saranu sempre più equipati di a capacità di interagisce direttamente cù l'omu ( chatbots ), cunversazione cun elli è stabilisce relazioni strette. cun elli, spessu assai piacevuli è rassicuranti, postu chì sti prugrammi di intelligenza artificiale seranu pensati per amparà à risponde, in modu persunalizatu, à i bisogni fisichi è psicologichi di l'omu.
Dimenticà chì l'intelligenza artificiale ùn hè micca un altru esse umanu è chì ùn pò micca prupona principii generali hè spessu un sbagliu seriu chì vene sia da a necessità prufonda di l'omu di truvà una forma stabile di cumpagnie sia da a so supposizione subconsciente, vale à dì da l'assunzione. chì l'osservazioni ottenute per mezu di un mecanismu di calculu sò dotate di e qualità di certezza indiscutibile è universalità indubitabile.
Questa supposizione, però, hè risicatu, cum'è dimustratu da l'esame di i limiti intrinseci di u calculu stessu. L'intelligenza artificiale usa l'operazioni algebriche per esse realizatu secondu una sequenza lògica (per esempiu, se u valore di X hè più grande di quellu di Y, multiplica X per Y; altrimenti divide X per Y). Stu metudu di calculu – u cusì chjamatu "algoritmu" – ùn hà nè ughjettività nè neutralità [9] . In fatti, essendu basatu annantu à l'algebra, pò esaminà solu e realità formalizate in termini numerichi [10] .
Inoltre, ùn deve esse scurdatu chì l'algoritmi pensati per risolve prublemi assai cumplessi sò cusì sofisticati chì hè difficiule per i programatori stessi di capisce esattamente cumu si riescenu à ottene i so risultati. Sta tendenza versu a sufisticazione rischia di accelerà considerablemente cù l'intruduzioni di l'urdinatori quantistici chì ùn operanu micca cù circuiti binari (conduttori o microchip), ma secondu e lege piuttostu cumplessu di a fisica quantistica. Per d 'altra banda, l'intruduzione cuntinuu di microchips sempre più performanti hè digià diventatu una di e cause di a predominanza di l'usu di l'intelligenza artificiale da e pochi nazioni chì sò furnuti cun ella.
Ch'ella sia sufisticata o micca, a qualità di e risposte chì i prugrammi di intelligenza artificiale furnisce in ultimamente dipende da e dati chì utilizanu è cumu sò strutturati da elli.
Infine, vogliu signalà un ultimu spaziu in u quale emerge chjaramente a cumplessità di u mecanismu di l'intelligenza artificiale chjamata generativa. Nimu ùn dubita chì oghje ci sò strumenti magnifichi dispunibuli per accede à a cunniscenza chì permettenu ancu l'autoapprendimentu è l'autotutura in una miriade di campi. Parechji di noi sò stati impressiunati da l'applicazioni facilmente dispunibili in linea per cumpone un testu o pruduce una maghjina nantu à qualsiasi tema o sughjettu. Particularmente attratti da questa perspettiva sò i studienti chì, quandu anu da preparà documenti, ne facenu un usu sproporzionatu.
Questi studienti, chì sò spessu assai più preparati è abituati à l'usu di l'intelligenza artificiale cà i so prufessori, si scurdanu, però, chì l'intelligenza artificiale chjamata generativa, in u sensu strettu, ùn hè micca esattamente "generativa". L'ultime, in verità, cerca di l'infurmazioni in big data è i pacchetti in u stilu dumandatu. Ùn sviluppa micca novi cuncetti o analisi. Ripete quelli chì trova, dendu una forma attrattiva. È più una nuzione o ipotesi hè ripetuta, più hè legittima è valida. Più chè « generativu », hè dunque « rinfurzatu », in u sensu ch’ellu riordineghja i cuntenuti esistenti, aiutendu à cunsulidalli, spessu senza verificà s’ellu cuntene errori o preconcepzioni.
In questu modu, ùn solu ùn corre u risicu di legittimità e fake news è di rinfurzà u vantaghju di una cultura dominante, ma ancu di minà u prucessu educativu in a so zitella . L'educazione chì duveria dà à i studienti a pussibilità di una riflessione autentica risicate d'esse ridutta à una ripetizione di nuzioni, chì saranu sempre più valutate cum'è incontrovertibili, solu per via di a so ripruposta cuntinuu [11] .
Ritruvà a dignità di a persona in u centru in vista di una pruposta etica cumuna
Una osservazione più generale deve esse aghjuntu avà à ciò chì hè digià dettu. A staghjoni di l'innuvazione tecnulogica ch'è no campemu, in fatti, hè accumpagnata da una situazione suciale particulare è senza precedente : hè sempri più faciule di truvà accordu nantu à i prublemi maiò di a vita suciale. Ancu in e cumunità carattarizate da una certa cuntinuità culturale, nascenu spessu dibattiti è scontri accesi chì facenu difficiule di pruduce riflessioni pulitiche spartute è suluzioni intesu à circà ciò chì hè bonu è ghjustu. Al di là di a cumplessità di visioni legittimi chì carattirizzanu a famiglia umana, nasce un fattore chì pare unisce issi diversi casi. Registra cum'è una perdita o almenu una eclissi di u sensu di l'omu è un apparente insignificanza di u cuncettu di dignità umana [12] . Sembra chì u valore è u sensu prufondu di una di e categurie fundamentali di l'Occidenti si perde : a categuria di a persona umana. È cusì hè chì in questa era in quale i prugrammi di intelligenza artificiale interruganu l'essere umanu è e so azzioni, a debulezza stessa di l' ethos cunnessu à a percepzione di u valore è a dignità di a persona umana risicate à esse a più grande vulnerabilità in a implementazione è u sviluppu. di sti sistemi. In fatti, ùn devemu micca scurdatu chì nisuna innuvazione hè neutrale. A tecnulugia hè nata per un scopu è, in u so impattu nantu à a sucetà umana, rapprisenta sempre una forma d'ordine in e relazioni suciali è una pusizioni di putere, chì permette à qualchissia di fà azzione è impedisce à l'altri di fà altri. Sta dimensione di putenza custitutiva di a tecnulugia include sempre, in modu più o menu esplicitu, a visione di u mondu di quelli chì l'anu criatu è sviluppatu.
Questu hè ancu applicà à i prugrammi di intelligenza artificiale. Per esse l'ultimi strumenti per custruisce a bontà è un dumane megliu, deve esse sempre urdinatu à u bonu di ogni esse umanu. Deve avè una ispirazione etica.
A decisione etica, in fattu, hè quella chì piglia in contu micca solu i risultati di una azzione, ma ancu i valori in ghjocu è i duveri chì derivanu da questi valori. Hè per quessa ch'e aghju accoltu a firma in Roma, in u 2020, di a Chjama di Roma per l'Etica di l'IA [13] è u so sustegnu à quella forma di moderazione etica di l'algoritmi è di i prugrammi di intelligenza artificiale ch'e aghju chjamatu "algoretica" [14] . In un cuntestu plurale è glubale, in quale diverse sensibilità è gerarchie plurali in e scale di valori sò ancu affissate, parerebbe difficiule di truvà una sola gerarchia di valori. Ma in l'analisi etica si pò ancu aduprà altre tipu d'arnesi : s'è no luttemu per definisce un unicu inseme di valori glubale, pudemu però truvà principii spartuti cù quale affruntà è risolve ogni dilemmi o cunflitti di a vita.
Hè per quessa chì hè natu a Chjama di Roma : u terminu "algoretica" cundensa una seria di principii chì si dimostranu una piattaforma glubale è plurale capace di truvà u sustegnu di e culture, di e religioni, di l'urganisazioni internaziunali è di e grande imprese protagoniste di stu sviluppu.
A pulitica chì avemu bisognu
Ùn pudemu micca, dunque, ammuccià u risicu concretu, postu chì hè inerente à u so mecanismu fundamentale, chì l'intelligenza artificiale limità a visione di u mondu à realità esprimibili in numeri è chjusu in categurie pre-imballate, escludendu a cuntribuzione di altre forme di verità è di verità. impone mudelli uniformi antropologici, socio-ecunomichi è culturali. U paradigma tecnulugicu incarnatu da l'intelligenza artificiale risicate tandu di fà spaziu à un paradigma assai più periculosu, chì aghju digià identificatu cù u nome di « paradigma tecnocraticu » [15] . Ùn pudemu micca permette un strumentu cusì putente è indispensabile cum'è l'intelligenza artificiale per rinfurzà un tali paradigma, ma piuttostu, duvemu fà di l'intelligenza artificiale un baluardatu contr'à a so espansione.
È hè precisamente quì chì l'azzione pulitica hè urgente, cum'ellu ci ricorda l'Enciclica Fratelli tutti . Di sicuru «per parechji oghje a pulitica hè una mala parolla, è ùn si pò ignurà chì daretu à stu fattu ci sò spessu sbagli, corruzzione è inefficienza di certi pulitichi. À questu si aghjunghjenu strategie chì anu per scopu di debilitallu, di rimpiazzà cù l'ecunumia o di duminà cù una certa ideologia. È ancu, u mondu pò funziunà senza pulitica ? Pudete truvà una strada efficace versu a fratellanza universale è a pace suciale senza bona pulitica ? [16] .
A nostra risposta à queste ultime dumande hè: no! A pulitica hè necessaria ! Vogliu ricurdà à st'occasione chì «di fronte à tante forme di pulitiche chjuche dirette à l'interessi immediati […] si manifesta a grandezza pulitica quandu, in i mumenti difficiuli, si opera nantu à basa di grandi principii è pinsamenti di u beni cumuni à longu andà. U putere puliticu trova assai difficiule d’accolta stu duvere in un prughjettu naziunale è ancu più in un prughjettu cumunu per l’umanità presente è futura » [17] .
Cari Signori, Distinguisi Signori !
Sta riflessione mia nant'à l'effetti di l'intelligenza artificiale nantu à l'avvene di l'umanità ci porta cusì à cunsiderà l'impurtanza di a "pulitica sana" per fighjà u nostru avvene cù speranza è cunfidenza. Cum'è l'aghju digià dettu in altrò, "a sucetà mundiale hà serii carenze strutturali chì ùn ponu esse risolte cù solu patch-ups occasionali o correzioni veloci. Ci sò cose chì deve esse cambiatu cù resets fundamentali è trasfurmazioni maiò. Solu una pulitica sana pudaria guidà lu, inveci i più diversi settori è i più varii cunniscenzi. In questu modu, un'ecunumia integrata in un prughjettu puliticu, suciale, culturale è pupulare chì tende versu u bè cumunu pò "apre a strada à sfarente opportunità, chì ùn implicanu micca di piantà a creatività umana è u so sognu di prugressu, ma piuttostu di canalizà questu. l'energia d'una manera nova » ( Laudato si' , 191) » [18] .
Questu hè precisamente u casu cù l'intelligenza artificiale. Tocca à ognunu di fà un bon usu è tocca à a pulitica di creà e cundizioni per chì un tali bonu usu hè pussibule è fruttu.
Grazie.
____________________________________________________________________________
[1] Missaghju per a LVII Ghjurnata Mundiale di a Pace u 1 di ghjennaghju di u 2024 , 1.
[4] Sta ambivalenza era digià vistu da u Papa San Paulu VI in u so discorsu à u staffu di u "Centru di l'Automazione di l'Analisi Linguistica" di l'Aloysianum , datatu u 19 di ghjugnu 1964.
[5] Vede A. Gehlen, L'uomo. A so natura è u so postu in u mondu , Milano 1983, 43.
[6] Lettre encyclique Laudato si' (24 mai 2015), 102-114.
[7] Cf Messaghju per a LVII Giornata Mondiale di a Pace di u 1 di ghjennaghju 2024 , 3.
[8] L'intruduzioni di Marshall McLuhan è John M. Culkin sò particularmente pertinenti à e cunsequenze di l'usu di l'intelligenza artificiale.
[9] Cf. Discours aux participants à la Plénière de l'Académie Pontificale pour la Vie , 28 février 2020.
[10] Cf Messaghju per a LVII Giornata Mondiale di a Pace di u 1 di ghjennaghju 2024 , 4.
[12] Cf. Dicasteru per a Doctrina di a Fede, Dichjarazione Infinita di Dignitas nantu à a dignità umana (2 aprile 2024).
[13] Cf. Discours aux participants à la Plénière de l'Académie Pontificale pour la Vie , 28 février 2020.
[14] Vede Discorsu à i participanti à a cunferenza "Promozione di a dignità digitale di u zitellu – Da u cuncettu à l'azzione" , 14 Novembre 2019; Discorso à i participanti à a Plenaria di l'Accademia Pontificia per a Vita , u 28 di ferraghju 2020.
[15] Pour une explication plus large, je renvoie à ma Lettre Encyclique Laudato si' sur les soins de notre maison commune du 24 mai 2015.
[16] Lettera enciclica Fratelli tutti sur la fraternité et l'amitié sociale (3 octobre 2020), 176 .
Questa hè una traduzzione automatica da a lingua italiana di un post publicatu in StartMag à l’URL https://www.startmag.it/innovazione/come-rendere-etica-lintelligenza-artificiale/ u Sat, 15 Jun 2024 06:18:24 +0000.