“Padrinu di l’IA” lascia Google è avvisa u mondu annantu à l’imminente “crisi guidata da AI”

U "Padrinu di l'IA" dimissioni da u so postu in Google, induve hà travagliatu per più di una dicada. S'hè unitu à un coru crescente di critichi chì avvisanu di u risicu esistenziale chì i sistemi di intelligenza artificiale ponenu à l'omu.

Lunedì, l'informaticu di Google Geoffrey Hinton hà tweetatu:

"In u NYT oghje, Cade Metz implica chì aghju lasciatu Google per pudè criticà Google. In verità, aghju lasciatu per pudè parlà di i periculi di l'AI senza cunsiderà cumu questu impacta Google . Google hà agitu assai rispunsevuli ".

In u NYT oghje, Cade Metz implica chì aghju lasciatu Google per pudè criticà Google. In verità, sò partutu per pudè parlà di i periculi di l'IA senza cunsiderà cumu questu impacta Google. Google hà agitu assai rispunsevuli.

– Geoffrey Hinton (@geoffreyhinton) 1 di maghju di u 2023

In una entrevista cù u New York Times , Hinton hà dettu chì era solu dopu à abbandunà Google chì puderia parlà apertamente di i periculi di l'AI.

Hà sempre cridutu chì i sistemi eranu inferiori à u cervellu umanu in certi modi, ma hà pensatu chì eclissi l'intelligenza umana in altri. "Forse ciò chì succede in questi sistemi", disse, "hè in realtà assai megliu cà ciò chì succede in u cervellu".

Cume l'imprese migliurà i so sistemi AI, crede, diventanu sempre più periculosi . "Fighjate cumu era cinque anni fà è cumu hè avà", disse di a tecnulugia AI. "Pigliate a diffarenza è propagate in avanti. Hè spaventosa ".

Finu à l'annu passatu, hà dettu, Google hà agitu cum'è un "amministratore propiu" per a tecnulugia, attentu à ùn liberà qualcosa chì puderia causà danni. Ma avà chì Microsoft hà aumentatu u so mutore di ricerca Bing cun un chatbot – sfida u core business di Google – Google hè in corsa per implementà u listessu tipu di tecnulugia. I giganti tecnologichi sò chjusi in una cumpetizione chì puderia esse impussibile di piantà , hà dettu u duttore Hinton. – NYT

Una di e so preoccupazioni più immediate hè chì l'internet serà inundatu di video falsi, ritratti è nutizie, è a persona media "ùn puderà sapè più ciò chì hè veru".

Hinton hè preoccupatu chì l'automatizazione disturberà u mercatu di u travagliu . I chatbots, cum'è u ChatGPT di OpenAI, ponu digià rimpiazzà l'assistenti persunali, i traduttori, è altri chì gestiscenu i travaglii di rutina.

"Ci toglie u travagliu drudge ", disse, aghjustendu: "Puderia caccià più di questu".

Una recente nota di ricerca di Goldman Sachs hà previstu chì l'IA puderia guidà à circa 300 milioni di licenziamenti trà i travagliadori assai pagati è non-miniali in i Stati Uniti è in Europa. Cum'è l'economistu capu di Goldman Jan Hatzius hà dettu:

"Usendu dati nantu à i travaglii occupazionali in i Stati Uniti è in Europa, truvamu chì circa dui terzi di l'impieghi attuali sò esposti à un certu gradu d'automatizazione AI, è chì l'AI generativa puderia rimpiazzà finu à un quartu di u travagliu attuale. globalmente suggerisce chì l'IA generativa puderia espone l'equivalente di 300 milioni di impieghi à tempu pienu à l'automatizazione "cum'è finu à " dui terzi di l'occupazioni puderanu esse parzialmente automatizati da l'AI".

È u luni, u CEO di IBM, Arvind Krishna, hà dettu chì l'IA puderia rimpiazzà u 30% di i so posti di back-office in i prossimi cinque anni.

De retour à Hinton, où il a continué à prévenir que l'IA finira par éclipser l'intelligence humaine :

"L'idea chì sta roba puderia esse veramente più intelligente di e persone – uni pochi di persone anu cridutu questu.

"Ma a maiò parte di a ghjente pensava chì era luntanu. È aghju pensatu chì era luntanu. Pensu chì era da 30 à 50 anni o ancu più longu. Ovviamente, ùn pensu più chì ".

Ellu disse chì ùn hà micca firmatu a lettera in marzu quandu più di 1 000 capi di tecnulugia, cumpresu Elon Musk, Steve Wozniak , è u pioniere di l'AI Yoshua Bengio, hà dumandatu una moratoria di sei mesi nantu à u sviluppu di novi strumenti AI più putenti cà GPT-4. Hè perchè ùn vulia micca criticà apertamente a grande tecnulugia mentre travagliava per Google.

In 2018, Hinton è dui altri culleghi anu ricevutu u Premiu Turing, o "u Premiu Nobel di l'informatica", per u so travagliu nantu à e rete neurali. Google hà acquistatu a so cumpagnia in 2018 per $ 44 milioni, chì hà sviluppatu tecnulugia putenti chì hà purtatu à a creazione di chatbots.

In una entrevista separata, Hinton hà dettu à BBC News , "Aghju ghjuntu à a cunclusione chì u tipu d'intelligenza chì avemu sviluppatu hè assai sfarente di l'intelligenza chì avemu".

"A grande diferenza hè chì cù i sistemi digitali, avete parechje copie di u stessu settore di pesi, u listessu mudellu di u mondu.

"Tutte queste copie ponu amparà separatamente, ma sparte a so cunniscenza istantaneamente. Allora hè cum'è s'è avete avutu 10 000 persone è ogni volta chì una persona hà amparatu qualcosa, tutti l'anu automaticamente cunnisciutu.

Unu di i risichi più significativi chì vede hè chì i dirigenti autoritarii ponu utilizà a tecnulugia AI per "manipulà" e masse.

E preoccupazioni di Hinton ponu vene un pocu tardi , postu chì a tecnulugia hè digià in usu. Preoccupazioni simili sò state espresse da ingegneri è scientisti in u passatu, in relazione à l'energia nucleare è a biochimica. Hè inevitabbile chì u mondu eventualmente affruntà una crisa guidata da l'IA.