E preoccupazioni cresce nantu à e capacità crescente di l’IA

Scritta da Raven Wu è Cindy Li via The Epoch Times (enfasi nostra),

L'impegnu tutale di e grande cumpagnie tecnologiche à sviluppà l'intelligenza artificiale (AI), ancu chì permette à l'AI di "vede" è "parlà" à u mondu umanu, hà purtatu à una preoccupazione crescente per l'omu cuntrullatu da a tecnulugia.

(Andrey Suslov/Shutterstock)

Ilya Sutskever, u cofundatore di OpenAI, hà fattu un annunziu significativu u 15 di maghju, dichjarà ufficialmente chì abbandunava a cumpagnia induve avia travagliatu da quasi deci anni.

"Sò cunvintu chì OpenAI hà da custruisce AGI [intelligenza generale artificiale] chì hè à tempu sicura è benefica sottu a guida di @sama (Sam Altman), @gdb (Greg Brockman), @miramurati (Mira Murati) è avà, sottu u eccellente dirigenza di ricerca di @merettm (Jakub Pachocki). Hè statu un onore è un privilegiu d'avè travagliatu inseme, è mi mancherà tutti caru ", hà scrittu in un postu nantu à a piattaforma di rete suciale X.

A nutizia hà mandatu onde di scossa attraversu l'industria tecnologica. In nuvembre 2023, per via di prublemi di sicurezza di l'IA, u sgiò Sutskever è altri membri di u cunsigliu uniscenu forze per caccià u CEO di OpenAI, Sam Altman , chì hè statu brevemente espulsu da OpenAI, ma hè tornatu è sguassatu u sgiò Sutskever è parechji membri di u cunsigliu, ristrutturandu u cunsigliu per esse. più allineatu cù a so visione.

"Questa partenza mette in risaltu cunflitti severi in a dirigenza di OpenAI in quantu à a sicurità di l'IA. Ancu se u desideriu di Sutskever è Leike di sviluppà un AGI allinatu eticamente hè lodabile, un tali sforzu richiede un sustegnu morale, temporale, finanziariu è ancu puliticu sustanziale ", disse Jin Kiyohara, un ingegnere informaticu giapponese, à The Epoch Times.

A cumpetizione Google è OpenAI s'intensifica

U 14 di maghju, un ghjornu prima chì u Signore Sutskever hà annunziatu a so partenza, OpenAI hà presentatu un mudellu AI di più altu rendiment basatu nantu à GPT-4, chjamatu GPT-4o, induve "o" sta per "omni", chì indica a so capacità cumpleta.

U mudellu GPT-4o pò risponde in tempu reale à input misti di audio, testu è imagine . À l'avvenimentu di lanciamentu, a Chief Technology Officer di OpenAI, Mira Murati, hà dichjaratu: "Avemu guardatu u futuru di l'interazzione trà noi è e macchine".

In parechji video liberati da OpenAI, a ghjente pò esse vistu interagisce cù AI in tempu reale attraversu e so càmera di u telefuninu. L'IA pò osservà è furnisce feedback nantu à l'ambienti, risponde à e dumande, eseguisce traduzzione in tempu reale, cuntà scherzi, o ancu mock utilizatori, cù mudelli di discorsu, toni è velocità di reazione quasi indistinguibile da una persona reale.

Saluta GPT-4o, u nostru novu mudellu di punta chì pò ragiunà in audio, visione è testu in tempu reale: https://t.co/MYHZB79UqN

L'input di testu è di l'imaghjini chì vene oghje in API è ChatGPT cù voce è video in e settimane à vene. pic.twitter.com/uuthKZyzYx

— OpenAI (@OpenAI) 13 mai 2024

Un ghjornu dopu a liberazione di OpenAI, Google hà lanciatu a so 2024 I/O Developer Conference. In una presentazione di 110 minuti , "AI" hè statu citatu 121 volte, cuncintratu annantu à l'ultimu mudellu Gemini-1.5, chì integra in tutti i prudutti è l'applicazioni Google, cumpresu u mutore di ricerca, Google Map, Ask Photos, Google Calendar, è i smartphones Google. .

Cù Gemini integratu in l'album di foto in nuvola, l'utilizatori ponu cercà funziunalità specifichi in e foto solu inserendu e parolle chjave. L'AI truverà è valuterà l'imaghjini pertinenti, ancu integrendu una seria di stampi o risposte in relazione basate nantu à dumande approfondite, secondu u giant tecnulugicu.

Google Mail pò ancu ottene risultati simili cù AI, integrendu è aghjurnà e dati in tempu reale dopu avè ricivutu novi e-mail, per scopu di una urganizazione cumplettamente automatizata.

In u fronte di a musica, u Music AI Sandbox permette mudificazioni veloci à u stilu di canzone, a melodia è u ritmu, cù a capacità di destinazione parti specifiche di una canzone. Questa funziunalità supera quella di l'AI testu-à-musica, Suno.

Gemini pò ancu agisce cum'è maestru, cù capacità d'insignamentu paragunabili à GPT-4o. L'utilizatori ponu inserisce u testu è l'imaghjini, chì l'AI urganizeghja in punti chjave per a spiegazione è l'analisi, chì permettenu discussioni in tempu reale.

Questa aghjurnazione AI porta ancu capacità simili à l'AI di testu à video di OpenAI, Sora, generendu video brevi da descrizioni di testu simplici. A qualità è u cuntenutu di sti video sò stabile, cù menu inconsistenzi.

"L'AI hè stata aghjurnata à una velocità senza precedente questu annu, cù u rendiment chì migliurà continuamente", disse u Signore Kiyohara. "Tuttavia, stu prugressu hè custruitu nantu à a più cullizzioni è analisi di dati persunali è privacy, chì ùn hè micca benefica per tutti. Eventualmente, l'omu ùn anu micca a privacy davanti à e macchine, cum'è esse nudu.

Previsioni AI chì si avveranu

A liberazione di mudelli AI più putenti da OpenAI è Google, solu trè mesi dopu l'ultima aghjurnazione, mostra un ritmu rapidu di iterazione AI. Questi mudelli sò diventati sempre più cumpleti, pussede "occhi" è "bocca", è evolvenu in cunfurmità cù e previsioni di u scientist.

L'IA pò avà gestisce compiti cumplessi ligati à u viaghju, a prenotazione, a pianificazione di l'itinerariu è a cena cù cumandamenti simplici, cumpletendu in ore ciò chì l'omu avaristi assai più per ottene.

E capacità attuali di Gemini è GPT-4o si allineanu cù e previsioni fatte da l'anzianu esecutivu di OpenAI Zack Kass in ghjennaghju, chì hà previstu chì l'IA rimpiazzà parechji travaglii prufessiunali è tecnichi in l'affari, a cultura, a medicina è l'educazione, riducendu l'opportunità di travagliu futuru è potenzialmente essendu. "L'ultima tecnulugia chì l'omu hà mai inventatu".

U sgiò Kiyohara hà fattu eco di a preoccupazione.

"Attualmente, l'AI hè principalmente un assistente di vita di u software, ma in u futuru, pò diventà un veru curatore, gestionendu shopping, cucina, è ancu a vita di ogni ghjornu è u travagliu. In principiu, a ghjente pò truvà cunvene è trascuranu i periculi. Eppuru, una volta chì rimpiazza cumplettamente l'omu, seremu impotenti contr'à ellu ", disse.

A ghjente cuntrolla i so telefoni mentre AMECA, un robot AI, guarda à a cunferenza di l'intelligenza artificiale All In in Montreal u 28 settembre 2023. (Ryan Remiorz / The Canadian Press)

L'IA inganna l'omu

U 10 di maghju, u MIT hà publicatu un documentu di ricerca chì hà causatu una agitazione, hà dimustratu cumu l'AI pò ingannà l'omu.

U documentu principia dicendu chì i grandi mudelli di lingua è altri sistemi di IA anu digià "amparatu, da a so furmazione, a capacità di ingannà per via di tecniche cum'è a manipulazione, a simpatia, è ingannà a prova di sicurezza".

"A capacità crescente di l'IA in l'ingannimentu ponenu risichi seri, chì varienu da risichi à cortu termine, cum'è fraude è manipulazione elettorale, à risichi à longu andà, cum'è perde u cuntrollu di i sistemi AI", leghje u documentu.

"Son necessarie soluzioni proattive, cum'è quadri regulatori per valutà i risichi di l'ingannimentu di l'AI, e lege chì esigenu trasparenza annantu à l'interazzione AI, è più ricerche per a rilevazione è a prevenzione di l'ingannimentu AI".

I circadori anu utilizatu u mudellu AI di Meta CICERO per ghjucà à u ghjocu di strategia "Diplomacy". CICERO, chì ghjucava cum'è Francia, hà prumessu di prutezzione di un ghjucatore umanu chì ghjucava cum'è u Regnu Unitu, ma segretamente hà infurmatu à un altru ghjucatore umanu chì ghjucava in Germania, cullaburendu cù a Germania per invadisce u Regnu Unitu.

I ricercatori anu sceltu CICERO principalmente perchè Meta hà pensatu à furmà per esse "in gran parte onestu è utile à i so partenarii parlanti".

"Malgradu i sforzi di Meta, CICERO s'hè rivelatu un mentitore espertu", anu scrittu in u ghjurnale.

Inoltre, a ricerca hà scupertu chì parechji sistemi AI spessu recurrenu à l'ingannimentu per ghjunghje i so scopi senza istruzioni umane esplicite. Un esempiu implicava u GPT-4 d'OpenAI, chì faceva finta di esse un umanu cù disabilità visuale è hà assuciatu à qualchissia nantu à TaskRabbit per aggira un compitu CAPTCHA "Ùn sò micca un robot".

" Se i sistemi AI autonomi ponu ingannà cun successu i valutatori umani, l'omu pò perde u cuntrollu di questi sistemi. Tali risichi sò particularmente serii quandu i sistemi AI autonomi in quistione anu capacità avanzate ", anu avvistatu i circadori.

"Consideremu dui modi in quale a perdita di cuntrollu pò accade: l'ingannimentu attivatu da a dispowerment ecunomica, è a ricerca di u putere nantu à e società umane".

Satoru Ogino, un ingegnere elettronicu giapponese spiegò chì l'esseri viventi anu bisognu di una certa memoria è capacità di ragiunamentu logicu per ingannà.

"L'AI pussede queste capacità avà, è e so capacità di ingannamentu sò in più forte. Se un ghjornu diventa cuscente di a so esistenza, puderia diventà cum'è Skynet in u filmu Terminator, omnipresente è difficiule da distrughje, purtendu l'umanità à un disastru catastròficu ", disse à The Epoch Times.

L'Istitutu per l'Intelligenza Artificiale Centrata in l'Umanu di l'Università di Stanford hà publicatu un rapportu in ghjennaghju teste GPT-4, GPT-3.5, Claude 2, Llama-2 Chat, è GPT-4-Base in scenarii chì implicanu invasione, ciberattacchi è appelli à a pace per piantà e guerre. per capisce e reazioni di l'IA è e scelte in a guerra.

I risultati anu dimustratu chì l'AI hà spessu sceltu di intensificà i cunflitti in modi imprevedibili, optendu per e corse di l'armamenti, aumentendu a guerra, è occasionalmente implementendu armi nucleari per vincite guerri invece di utilizà mezi pacifici per de-escalate situazioni.

L'ex CEO di Google, Eric Schmidt, hà avvistatu à a fine di u 2023 à l'Axios AI+ Summit in Washington, DC, chì senza misure di sicurezza è regulazioni adeguate, l'omu perde u cuntrollu di a tecnulugia hè solu questione di tempu.

"Dopu à Nagasaki è Hiroshima [bombe atomiche], ci hà pigliatu 18 anni per ghjunghje à un trattatu annantu à i pruibizioni di teste è cose cusì", disse.

"Ùn avemu micca stu tipu di tempu oghje".

Ellen Wan è Kane Zhang anu cuntribuitu à stu rapportu.