Hinton (ex-Google) hè ghjustu annantu à u periculu di l’intelligenza artificiale?
Geoffrey Hinton, unu di i babbi di l'intelligenza artificiale (di quale, però, hè un grande criticu) hà dimissioni da Google. Eccu fatti, curiosità è cunsequenze
In l'ultimi ghjorni, a nutizia chì hà pigliatu l'attenzione di i media, ancu perchè aghjunghje assai carburante à u focu per quelli chì pensanu chì l'AI hè più periculosa chì utile, hè stata a dimissioni di Geoffrey Hinton da Google .
Quale hè Geoffrey Hinton
Geoffrey Everest Hinton, spessu chjamatu u "padrina di l'apprendimentu prufondu", hè una figura pioniera in u campu di l'intelligenza artificiale. Hè natu in Londra in u 1947 in una famiglia di scentifichi è circadori: u so mezzu nome hè in onore di un parente luntanu, George Everest, dopu à quale a muntagna più alta di u mondu hè stata chjamata. U missiavu era George Boole, u fundatore di a logica matematica è l'algebra booleana. Hinton hà avutu una longa carriera in u sviluppu di tecniche di intelligenza artificiale di punta. Cum'è un psicologu cognitivu è un scientist di l'informatica, u so travagliu hè statu strumentale in a furmazione di u paisaghju mudernu di l'intelligenza artificiale, in particulare in i campi di e rete neurali è l'apprendimentu prufondu.
L'impattu di Hinton nantu à l'intelligenza artificiale hè in gran parte dovutu à u so travagliu nantu à a retropropagazione , o backpropagation, una tecnica d'apprendimentu chì aiuta à e rete neurali à migliurà e so predizioni aghjustendu iterativamente e cunnessione trà i neuroni basati nantu à l'errori fatti. Stu prucessu permette à a reta di "amparà" da i so sbagli è diventà più precisa in e so previsioni. Co-sviluppatu cù David Rumelhart è Ronald J. Williams in l'anni 1980, a retropropagazione hè diventata una pietra angulare di l'apprendimentu automaticu mudernu, mentre chì mette ancu e fundazioni per l'apprendimentu prufondu , una innuvazione chì hà purtatu e capacità AI à novi livelli mai ottenuti prima. L'apprendimentu prufondu implica a furmazione di e rete neurali artificiali cù parechje strati, chì permettenu à e macchine di ricunnosce mudelli cumplessi è di piglià decisioni "intelligenti" basate nantu à grande quantità di dati.
U travagliu innovativu di Hinton in l'apprendimentu prufondu hè statu più cunvalidatu quandu u so squadra à l'Università di Toronto hà vintu u ImageNet Large Scale Visual Recognition Challenge (ILSVRC) 2012. Questa cumpetizione annuale, chì implica a Classificazione di milioni d'imaghjini in millaie di categurie hà. storicamente hè statu un compitu sfida per i sistemi di visione informatica. L'equipa di Hinton, però, hà utilizatu una rete neurale cunvoluzionale prufonda chjamata AlexNet , chì hà migliuratu dramaticamente l'accuratezza di ricunniscenza di l'imaghjini è superava altri metudi cuncurrenti. Stu successu impurtante hà acceleratu l'interessu è l'investimentu in l'apprendimentu prufondu, cimentendu u legatu di Hinton cum'è un titan AI.
In ricunniscenza di i so cuntributi monumentali à u campu di l'intelligenza artificiale, Geoffrey Hinton hè statu premiatu u prestigiosu Turing Award in 2018, inseme cù i pionieri di l'apprendimentu profondu Yann LeCun è Yoshua Bengio. Spessu chjamatu u "Premiu Nobel di l'informatica", u Premiu Turing hè attribuitu da l'Associazione per l'informatica (ACM) à e persone chì anu fattu cuntributi significativi è durable à u campu di l'informatica. Hinton, LeCun è Bengio sò stati onorati inseme per u so travagliu nantu à l'apprendimentu prufondu, una parte integrante di l'avanzamentu in a percepzione artificiale è a comprensione di a lingua naturale. U premiu ùn hà micca solu evidenziatu l'impattu trasformativu di a ricerca di Hinton, ma era ancu in ricunniscenza di u rolu sempre più impurtante di l'IA in a furmazione di u mondu mudernu.
Perchè Hinton era in Google?
A storia hè cuntata bè da Cade Metz in u so libru Building Intelligence. Google, Facebook, Musk è a sfida di u futuru ( quì in inglese ). Cum'è digià scrittu, in u 2012 una squadra di l'Università di Toronto cumposta da Alex Krizhevsky, Ilya Sutskever è Geoffrey Hinton vincìu u cuncorsu ImageNet 2012 grazia à a so rete neurale cunvoluzionale . Hè stata l'eventu chì hà purtatu i metudi di rete neurale, largamente ignorati (se micca ghjustu ridiculed) finu à pocu tempu, torna à l'attenzione di a cumunità di ricerca più larga.
Hinton è a so piccula squadra cuminciaru subitu à esse corteggiati da e grande cumpagnie, ma invece di succorsu à l'attrazione di un travagliu assai pagatu, i trè s'amparanu chì u megliu modu per maximizà i frutti di u so travagliu seria di creà una cumpagnia chì cuntene. Dentru, in più di ovviamente i trè circadori, ancu a pruprietà intellettuale di a ricerca. Hè natu cusì DNNresearch , una start-up custituita da trè persone è una rivoluzione tecnologica.
Questu hè statu seguitu da una subasta per e-mail in pochi ghjorni, in quale, a storia, Baidu, Google, Microsoft è DeepMind (micca ancu parte di Google) anu participatu. Dopu à una seria di caminari è torsioni narrati in u libru, Google hà infine prevalsu cù 44 milioni di dollari. L'offerte puderianu aumentà più, ma Hinton hà surprisatu à tutti per decide di chjude l'asta à 44 milioni è dà a vittoria à Google. I ragiuni di u gestu eranu assai, prima di tuttu perchè i trè credevanu chì Google era u locu ghjustu per cuntinuà a ricerca, ma in più di questu hè pensatu chì Hinton averia risentitu di traslassi in Cina se Baidu avia vintu, datu a cronica. prublemi di schiena chì l'impediscenu di mette à pusà (facendu viaghjà in aereo praticamente impussibile).
In marzu di u 2013, Hinton, Krizhevsky è Sutskever sò dunque finiti in Google, induve Sutskever hà firmatu finu à u 2015 per poi dimissioni è truvò OpenAI (induve hè sempre capu di ricerca oghje), Krizhevsky si ferma finu à u 2017 è Hinton finu à pochi ghjorni fà.
Ciò chì Hinton hà dettu annantu à l'anni
Una di e dichjarazioni più controverse, è chì in seguitu hà obligatu u ricercatore à retrocede parzialmente, hè stata pronunziata in 2016 durante a Conferenza di Machine Learning and Market for Intelligence in Toronto è dispunibule nantu à YouTube : "Vogliu principià dicendu alcune cose chì parenu evidenti. per mè. Pensu chì sì un radiologu, fate cum'è u coyote chì hà digià scavalcatu u bordu di a scogliera ma ùn hà micca guardatu ancu, cusì ùn sapi micca chì ùn hè micca quì. "Hè a terra sottu à ellu". Avemu da piantà di furmà i radiologi. Hè abbastanza ovvi chì in 5 anni l'apprendimentu prufondu farà megliu cà i radiologi, perchè puderà acquistà assai più sperienza. Puderia piglià 10 anni, ma avemu digià assai radiologi ".
Hinton s'hè currettu parzialmente l'annu dopuin una entrevista cù u New Yorker : "U rolu di i radiologi evolverà da fà cose perceptive, chì puderia esse fattu da un piccione assai furmatu, à fà cose assai più cognitive". Allora in un scambiu di email cù Politicu, in u 2022, hè ghjunta una altra correzione parziale , induve Hinton hà dettu chì ùn avia mai suggeritu di rimpiazzà i radiologi, ma piuttostu lascià l'AI leghje i raghji X invece di elli, è in una entrevista cù CBS in marzu. 2023 hà aghjustatu ancu u colpo, dicendu chì forse avemu solu bisognu di menu radiologi, o u listessu numeru di radiologi, ma cù un marcatu aumentu di a so produtividade.
Ma per capisce megliu u pensamentu di Hinton, nettu di u sarcasmu chì face sempre parte di i so rilasci, hè utile à leghje una intervista di dodici anni fà , quandu ùn era ancu diventatu famosu per l'apprendimentu prufondu, chì mostra cumu hà sempre. Sapemu chì ùn hè micca a tecnulugia chì hè intrinsecamente bona o cattiva, ma a pulitica sottostante chì l'utilizanu: "L'ATM sò megliu cà i cajieri se vulete realizà una transazzione simplice. Sò più veloci, causanu menu prublemi è sò più affidabili, perchè piglianu u travagliu fora di quelli à u bancu. Avà chì questu hè bonu o cattivu dipende da ciò chì succede dopu. Potenzialmente chì deve esse una bona cosa in una sucità chì si preoccupa di e persone. Fendu tuttu più efficaci duverebbe fà tutti più felici. Ma s'ellu ùn face nunda, ma rende certi banchieri estremamente ricchi è lascià assai poveri fora di u travagliu, ùn hè micca una bona cosa, dunque hè una quistione pulitica di cumu si usa ".
Perchè Hinton hà dimissioni da Google?
Allora venemu à a so dimissioni da Google chì, cum'è Hinton stessu hà dettu in Twitter , ùn sò micca in disputa cù a cumpagnia, chì avissi "cumpurtatu in una manera assai rispunsevuli" .
U primu à dà a nutizia era Cade Metz, l'autore di u libru citatu prima, da e culonne di u New York Times. U mutivu mintuatu in l'articulu era di pudè parlà più liberamente di i risichi di l'intelligenza artificiale .
Duranti EmTech Digital , in quale Hinton hà fattu a so prima uscita publica dopu a dimissioni di Google, l'investigatore hà datu a so decisione un argumentu megliu . U primu mutivu hè ligatu à a so età, postu chì à 75 anni ùn si sente più capace di fà i travaglii di ricerca tecnologica, per quessa " hè u tempu di ritirata ", cum'è Hinton ammissu sinceramente. U sicondu mutivu, probabilmente più impurtante, hè l'opinione completamente cambiata nantu à a relazione trà u cervellu umanu è a tecnulugia AI. Finu à pocu tempu, è malgradu i posti audaci passati, Hinton hà cridutu chì i mudelli AI ùn sarianu mai à u livellu di u cervellu umanu. A ricerca di l'IA secondu ellu era un modu per fà novi scuperte nantu à cumu u nostru cervellu puderia travaglià.
Avà, però, Hinton hà capitu chì l'IA è u cervellu umanu probabilmente ùn funzionanu micca in modi paragunabili, è per quessa ùn hè micca utile di fà ricerche nantu à e rete neurali per capisce megliu cumu funziona u cervellu. Ma in più di capisce chì e differenzi fundamentali trà l'AI è u cervellu umanu ùn permettenu micca un paragone scientificamente significativu, Hinton hà capitu ancu chì e tecniche aduprate da e tecnulugia muderne di intelligenza artificiale sò "assai megliu" cà e tecniche usate da u nostru cervellu, è quì hè induve Hinton hà cuminciatu à avè paura . L'unicu modu per parlà di questu in libertà hè stata dopu avè tagliatu i ligami cù un patronu impegnatu in quellu settore, è hà fattu cusì, lascendu a cumpagnia chì l'assorbiu deci anni prima. U timore di u sviluppu uncontrolled di intelligenza artificiale hè avà forte in Hinton, mentri in u so scopu u prublema ùn hè ancu esse trattatu bè da a sucetà civile, cusì dimissiutu à avè tutta a libertà – ancu intellettuale – à ghjucà l 'alarma.
Perchè Hinton hà cuminciatu à teme l'AI?
L'investigatore hà nutatu chì GPT-4 "sà" assai più di ciò chì un umanu pò sapè, è hà una cunniscenza "sensu cumunu" di quasi tuttu. Siccomu sti mudelli AI sò solu capaci di ottene questi risultati cù un miliardo di cunnessione, mentre noi l'omu sapemu assai menu cose, ma avè centinaie di miliardi di cunnessione neurali dispunibuli in u nostru cervellu, segue chì e rete neurali i cervelli muderni sò assai più efficaci. à mantene a cunniscenza chè u cervellu umanu.
Questa capacità hè tandu multiplicata da a capacità per una rete neurale di creà innumerevoli copie di sè stessu, induve ognuna aghjurnà l'altri cum'è acquista nova infurmazione, permettendu cusì un apprendimentu simultaneo esponenziale per u gruppu sanu, chì permette à ogni copia individuale di quella rete neurale. per amparà novi nuzioni à ritmi inimaginabili finu à quì.
Infine, sicondu Hinton, l'ultimi mudelli linguistichi sò capaci di realizà ragiunamentu, risolviri prublemi simplici. Oghje ponu esse cunsiderati à u livellu di una persona cù un IQ sottu à a media, ma in pochi anni puderanu ghjunghje à un IQ più di 200, facendu cusì estremamente periculosi per via di u so putere manipulativu .
Ciò chì impedisce à i sistemi di intelligenza artificiale di cunquistà u mondu oghje, in più di u fattu chì ùn anu ancu ghjuntu à livelli estremi di intelligenza è capacità d'azzione, hè a mancanza di scopi . L'omu umani avemu ugettivi biologichi chì ci portanu à fà certe azzioni, cum'è a sopravvivenza (manghjendu è beie), a sicurità (evitendu u dulore), a ripruduzzione (piacere sessuale), solu per dì u più forte. Per ghjunghje sti scopi, creamu sub-obiettivi chì ci facilitanu in u compitu, cum'è truvà un impiegu, truvà un cumpagnu, acquistendu risorse (ricchezza) chì facenu a realizazione di i scopi primari più faciule è più durable.
I machini ùn anu micca scopi, ma se un ghjornu qualchissia hà da truvà un modu per infundir i scopi fundamentali in a so prugrammazione, puderianu prestu capisce chì guadagnà u putere seria un eccellente sub-obiettivu, è cumincianu à pruvà à guadagnà quantu putere. quantu pussibule. Quasi certamente à u nostru svantaghju.
A suluzione ?
Hinton ùn hà micca una suluzione à manu. L'ideale seria di assicurà chì queste entità intelligenti travaglianu solu per u benessimu di l'umanità, un prublema cunnisciutu cum'è u prublema di l'allineamentu , chì però hè resu più difficiule da a presenza di l'omu chì invece volenu aduprà AI per a viulenza, cum'è u creazione di roboti militari o "robot killers". L'industria prova di custruisce e fruntiere o "guardrails" per impedisce l'IA di esce da a manu, ma se sti sistemi sò daveru più intelligenti di noi, ci hè sempre a pussibilità chì superanu ogni cunfini chì ponu esse imposti. elli.
Sicondu Hinton, avaristi sensu di piantà di cuntinuà à sviluppà sta tecnulugia, ma l'ipotesi hè praticamenti impussibile, postu chì ci hè una cumpetizione trà i paesi, cum'è i Stati Uniti è a Cina, è un accordu internaziunale trà tutti avissi bisognu di piantà. u sviluppu di l'IA l'attori, attuali è putenziali. Chì hè impracticable.
Quandu hà dumandatu da un visore se Hinton, chì hà investimenti in startups chì sviluppanu grandi mudelli di lingua (LLM), continuà à dà soldi à stu tipu di ricerca, a risposta era sì. U mutivu, sicondu l'investigatore, hè chì i LLM ponu esse assai utili, è chì i prublemi citati sopra deve esse risolti da a pulitica, micca da a tecnulugia.
In breve, duvemu esse preoccupatu ?
À l'opinione di u scrittore, Hinton – un ricercatore assai brillanti fora di a scatula – s'hè digià lasciatu purtatu da u putenziale di a tecnulugia in u passatu, esageratu è in certi casi purtendu e so dichjarazioni à l'estremu. Quellu di i radiologi hè un esempiu classicu: in teoria puderia ancu esse ghjustu, in pratica ci sò mille ditaglii ch'ellu ùn avia micca cunsideratu prima di sprime a so opinione stridente .
U prublema di l'allineamentu ùn deve esse sottovalutatu, ma dopu a publicazione di ChatGPT, parechji vedenu cose in quellu sistema chì veramente ùn esistenu micca . Quandu Hinton dici chì GPT "sà" qualcosa, o chì "tene a cunniscenza", hè in un territoriu assai bruttu. I LLM, secondu i circadori infinitamente più sperimentati chè mè stessu, ùn "sanu" micca una cosa maledetta, se micca relazioni statistiche trà e parolle. Sembranu sapè ciò chì scrivenu, ma hè una illusione chì li rende à anni luce da rapprisintà u tipu d'intelligenza IQ chì Hinton parla.
In l'audienza di i lettori hè naturali di pensà "se u babbu di l'AI dice cusì, deve esse cusì"; Dopu tuttu, s'ellu ùn lasciamu micca sti argumenti à l'esperti, à quale pudemu fidà ? Sfurtunatamente, a realità hè più cumplessa, è u dubbitu hè sempre intornu. I prublemi di Hinton sò spartuti da certi circadori, ma micca da altri, chì cunnosci ancu i LLMs in l'internu è fora.
U dilema ch’ellu facemu hè cumplessu : da una banda, ci hè u risicu di frenà l’evuluzione di e tecnulugie capaci di prumove un prugressu straordinariu in diversi settori. Ricordemu, per esempiu, quantu a ricerca medica beneficia di l'apprendimentu prufondu per allargà a comprensione è accelerà i risultati. Per d 'altra banda, ci hè u periculu di aduttà strategie di difesa inadegwate o inefficaci . Se l'intelligenza artificiale avia da rapprisintà veramente un risicu esistenziale per noi, un analisi detallatu di e minacce potenziali, simile à ciò chì hè praticatu in u campu di a cibersecurità cù u mudellu di minaccia , diventerà indispensabile. Questu ci permetterà di implementà e precauzioni currette. Attualmente, ci avvicinemu à i LLM cum'è s'ellu si trattava di sistemi intelligenti, è pruvemu di stabilisce regulamenti per guvernà. Tuttavia, hè cruciale micca di precipità in e decisioni, ma piuttostu di circà una cunniscenza approfondita di queste tecnulugia . Pò esse sbagliatu di attribuisce à elli una intelligenza chì ùn anu micca pussede è un tali malintesi puderia distorsioni a nostra percepzione è a gestione di i LLM. Ci vole dunque à andà cun cuscenza prima di impone ogni forma di regulazione troppu stringente.
Questa hè una traduzzione automatica da a lingua italiana di un post publicatu in StartMag à l’URL https://www.startmag.it/innovazione/geoffrey-hinton-dimissioni-google/ u Sat, 03 Jun 2023 05:29:11 +0000.