L’arrestu di u Garante talianu à ChatGpt ? Appropritatu ma micca decisivu
U putere di l'intelligenza artificiale, l'appelli recenti è u casu ChatGpt : u dibattitu hè appena principiatu. Quì perchè. L'analisi approfondita di u prufessore Enrico Nardelli di l'Università di Roma Tor Vergata, presidente di Informatica Europa è direttore di u Laboratoriu Naziunale CINI "Informatica è Scola"
In l'ultimi ghjorni, u dibattitu annantu à l'usu di ChatGPT hè in furia, ancu dopu a nutizia di u so bluccatu da u Garante per a Prutezzione di Dati Personali , chì hà suscitatu riazzioni chì varieghja da l'applausi di quelli chì u cunsidereghjanu una misura adatta à u rifiutu. di quelli chì u cunsidereghjanu liberticida è autoritariu. Credu dunque ch'ellu ci vole prima di tuttu à fà capisce, ancu à quelli chì ùn sanu nunda di tuttu ciò chì hè « sottu u cappucciu » di e tecnulugii digitale, quali sò i termini di a quistione.
À questu scopu, pruponu un esperimentu di pensamentu partendu da un paragone apparentemente distante chì, in u mo parè, illustra bè l'essenza di a situazione. Allora immaginate chì qualcunu ghjunghje cù un pezzu di machina di a dimensione di una caldaia à gasu per un appartamentu è vi dice: "Eccu un mini-reattore nucleare per l'usu domesticu, a so carica iniziale di materiale fissile hè capaci di dà acqua calda per u riscaldamentu è tutti i bisogni di a casa per i prossimi 10 anni, è custa solu uni pochi di millai d'euros !»
Di sicuru, cù sta suluzione puderemu risolve parechji prublemi è tutti campanu megliu. Tuttavia, puderia accade chì ogni tantu questu ughjettu surriscalda è dà origine à una mini splusione nucleare…
Ùn hè micca una prospettiva assai attrattiva, hè? Senza distrughjenu a sucetà in generale è cù danni assai limitati, parerebbe evidenti à tutti chì u ghjocu ùn vale a pena a candela. Ugualmente ovvi hè chì ùn avemu micca permessu di esse liberamente cummercializati in ogni casu, ancu s'è l'imprese di fabricazione insistenu nantu à a pussibilità di truvà suluzioni capaci di prevene cumplettamente l'esplosioni in u cortu termini. Nè osservà ch'ella hè una tecnulugia strategica per u nostru paese, chì seria sviluppata da altri s'ellu ùn l'avemu micca fattu, ùn saria micca un ragiò validu per dà u lume verde à u so usu incontrollatu.
Quì, cù i sistemi generativi di l'Intelligenza Artificiale (AI), di quale ChatGPT hè l'esempiu più famosu, simu in una situazione di stu tipu, cù a diferenza chì l'enormi putenza chì l'energia nucleare implementa in u mondu fisicu l'AI libera. in ciò chì in u mo libru recente A Rivuluzione di l'Informazione. Cunniscenza, cuscenza è putenza in a sucetà digitale ch’e aghju chjamatu « cognitiva », chì significheghja cù questu terminu in quale sò spiegate e capacità puramente logico-raziunali di ligà inseme è deduce i fatti. In un articulu precedente, aghju descrittu brevemente ciò chì sò sti "macchini cognitivi", discutendu i so periculi in relazione à u prucessu educativu di i zitelli.
Per fà l'evuluzione pussibule di stu scenariu ancu più deleteriu hè u fattu chì mentre i mini-reattori duveranu esse custruiti, spediti è messi in funziunamentu unu à unu cù tempi difficiuli di cumpressione, sti sistemi (chjamati ancu "chatbots") ponu esse riplicatu à vuluntà senza alcunu sforzu è dispunibule in ogni locu in un battitu d'ochju.
Tutti i media anu dunque datu una grande importanza à un appellu , lanciatu u 29 di marzu da nomi assai impurtanti in l'area di l'IA, sia scientisti cum'è Yoshua Bengio è Stuart Russell, sia imprenditori cum'è Elon Musk è Steve Wozniak, per bluccà u sviluppu di e nuove generazioni di tecnulugia di chatbot.
U prublema hè vera è possu capisce perchè tanti anu firmatu à a lettera aperta.
Analisi più accurate da scentifichi altrettantu impurtanti anu però mette in risaltu u risicu chì questu appellu cuntribuisci daveru à alimentà a frenesia chì hà righjuntu livelli assai alti in l'ultimi mesi, sviendu l'attenzione da i veri prublemi. Cum'è nutatu – frà altri – Emily Bender , u circadori chì in u 2020 hà publicatu, inseme à Timnit Gebru (un scientist chì hè statu dopu licenziatu da Google per questu mutivu), u primu articulu avvisendu nantu à i putenziali effetti negativi di sta tecnulugia, a lettera indica certi prublemi falsi (per esempiu: chì a creazione di una "mente digitale" hè oghji imminente o chì hè oghji pussibule di creà un sistema dotatu di "intelligenza artificiale generale"), trascurendu assai di i veri, chì sò a mancanza assoluta. di trasparenza nantu à cumu si sviluppanu è travaglianu sti sistemi, nantu à quali teste di sicurezza sò state realizate, cumu a so accessibilità à tutti hè digià sparghje a disinformazione, ancu assai dannusu (in u mo articulu precedente aghju datu alcuni esempi), nantu à cumu u so sviluppu significativamente. impattu nantu à u cunsumu di risorse naturali.
Ripecu ciò ch'e aghju dettu in altre occasioni : ùn mi pare micca sensu di bluccà a ricerca è u sviluppu in stu settore, ma, cum'è l'esperimentu di pensamentu illustratu à l'iniziu hà dimustratu, spergu chì ci vole à truvà una forma di regulazione chì equilibra u principiu di precaution indispensabile cù l'impurtanza di aduprà l'innuvazione per migliurà a sucità.
Per quessa, crede chì l'arrestu emessu da u Garante per a Prutezzione di Dati Personali hè appropritatu, ancu s'ellu ùn hè micca decisivu. U percorsu da seguità hè quellu indicatu in i Stati Uniti da u Centru per l'AI è a Pulitica Digitale (= Centru per l'Intelligenza Artificiale è a Politica Digitale) presentendu una denuncia à a Cummissione Federale di Cummerciu (= Cummissione Federale di Cummerciu, l'agenzia di u guvernu di i Stati Uniti). dedicatu à a prutezzione di i cunsumatori è a vigilazione di a cuncurrenza) è l'invita à intervene postu chì i chatbots implementanu un cumpurtamentu ingannatu versu i cunsumatori è periculosi da u puntu di vista di a correttezza di l'infurmazioni è di a sicurità di l'utilizatori.
Una dumanda simili hè stata fatta da l'Organizazione Europea di i Consumatori, chì hà dumandatu à l'autorità naziunali è europee perapre una investigazione in questi sistemi.
Megliu focu annantu à i veri prublemi in ghjocu hè invece a lettera aperta publicata da l'Università di Louvain (Università di Louvain) in Belgio. Ricurdativi di u risicu di manipulazione chì a ghjente pò esse incuntrà quandu interagisce cù i chatbots, cum'è alcuni custruiscenu un ligame cù ciò chì percepiscenu cum'è un altru umanu, chì pò purtà à situazioni dannusu.
In fatti, a principale minaccia chì i chatbots ponenu à l'omu hè chì mostranu una cumpetenza simili à quella di l'omu à u livellu sintatticu, ma sò anni luce da a nostra cumpetenza semantica. Ùn anu micca una vera cunniscenza di u significatu di ciò chì facenu, ma sfurtunatamenti (è questu hè un prublema di grande impurtanza suciale) perchè ciò chì facenu si esprimenu in una forma chì hà significatu per noi, prughjettamu nantu à questu u significatu chì hè in noi.
In poche parole, sò e pruposte di stu secondu appellu : campagne di sensibilizazione di u publicu, invistisce in ricerca nantu à l'impattu di l'IA nant'à i diritti fundamentali, creà un vastu dibattitu publicu nant'à u rolu à dà à l'IA in a sucetà, definisce un quadru legale cù garanzie forti per l'utilizatori, intantu pigliate tutte e misure necessarie per prutege i citadini sottu a legislazione esistente.
A stu mumentu di a storia avemu affruntatu sistemi estremamente putenti, sistemi chì, in ogni modu, cum'è Evgeny Morozov hà ricurdatu pocu tempu in u so articulu in The Guardian , ùn sò micca intelligenti in u sensu chì noi l'omu dà à stu termini, nè sò artificiali postu chì. – cum'è dimustratu ad abundantiam , frà altri, Antonio Casilli in u so libru "Schiavi del clic" – sò basati nantu à una quantità enormosa di travagliu umanu, micca dichjaratu è sottopagatu, realizatu in i paesi di u Terzu Munnu, è ancu nantu à a nostra cuntribuzione (in ) vuluntariu custituitu da tutte e "tracce digitale" chì furnimu in permanenza durante a nostra attività nantu à a reta.
I beneficii putenziali sò enormi, ma ancu i risichi. L'avvene hè in e nostre mani : ci vole à capisce inseme, di manera demucratica, chì forma vulemu piglià.
(I lettori interessati puderanu dialogà cù l'autore, à partesi da u terzu ghjornu dopu a publicazione, nant'à stu blog interdisciplinariu )
Questa hè una traduzzione automatica da a lingua italiana di un post publicatu in StartMag à l’URL https://www.startmag.it/innovazione/dibattito-intelligenza-artificiale-chatgpt/ u Mon, 03 Apr 2023 05:44:35 +0000.