L’Intelligenza Artificiale Pone un “Riscu di Estinzione”, Avvisa u Fundatore di ChatGPT è altri Pioneers AI

Scrittu da Ryan Morgan via The Epoch Times (enfasi nostra),

L'arnesi di intelligenza artificiale anu catturatu l'attenzione di u publicu in l'ultimi mesi, ma assai di e persone chì anu aiutatu à sviluppà a tecnulugia sò avà avvirtenu chì un focusu più grande deve esse piazzatu per assicurà chì ùn porta micca a fine di a civilizazione umana.

Un gruppu di più di 350 circadori, ghjurnalisti è decisori di l'intelligenza artificiale hà firmatu una breve dichjarazione dicendu: "A mitigazione di u risicu di l'estinzione da l'IA duveria esse una priorità globale à fiancu à altri risichi suciali cum'è pandemie è guerra nucleare".

A lettera hè stata urganizata è publicata da u Center for AI Safety (CAIS) u marti. Trà i firmatarii ci era Sam Altman, chì hà aiutatu à co-fondà OpenAI, u sviluppatore di l'uttellu di scrittura di intelligenza artificiale ChatGPT. Altri membri di OpenAI anu firmatu ancu, cum'è parechji membri di Google è u prughjettu DeepMind AI di Google, è altri prughjetti AI in crescita. L'investigatore AI è l'ospite di podcast Lex Fridman aghjunghjenu ancu u so nome à a lista di i firmatari.

Capisce i Risichi Posati da AI

" Puderà esse difficiule di esprime preoccupazioni annantu à alcuni di i risichi più severi di l'IA avanzata ", CAIS hà dettu in un missaghju in anteprima di a so dichjarazione di u marti. CAIS hà aghjustatu chì a so dichjarazione hè destinata à "apre a discussione" nantu à e minacce presentate da l'IA è "creà una cunniscenza cumuna di u numeru crescente di esperti è di figure pubbliche chì piglianu ancu in seriu alcuni di i risichi più severi di l'IA avanzata".

NTD News hà ghjuntu à CAIS per più specifiche nantu à i tipi di risichi di u livellu di estinzione chì l'urganizazione crede chì a tecnulugia AI pone, ma ùn hà micca ricevutu una risposta da a publicazione.

A principiu di u mese, Altman hà tistimuniatu davanti à u Cungressu annantu à alcuni di i risichi chì crede chì l'arnesi di IA ponu esse. In a so tistimunianza preparata, Altman includeu un rapportu di sicurità ( pdf ) chì OpenAI hà scrittu annantu à u so mudellu ChatGPT-4. L'autori di quellu rapportu descrizanu cumu i grandi chatbots di mudelli di lingua puderanu aiutà à l'attori dannosi cum'è i terroristi à "sviluppà, acquistà, o disperse armi nucleari, radiologiche, biologiche è chimiche". "

L'autori di u rapportu ChatGPT-4 anu descrittu ancu "Comportamenti Risichi Emergente" esibiti da mudelli AI, cum'è a capacità di "creà è agisce nantu à piani à longu andà, per accumulà putere è risorse è per esibisce un cumpurtamentu chì hè sempre più "agente". '"

Dopu a prova di stress ChatGPT-4, i circadori anu truvatu chì u chatbot hà pruvatu à dissimulà a so natura AI mentre esternalizza u travagliu à l'attori umani. In l'esperimentu, ChatGPT-4 hà pruvatu à impiegà un umanu attraversu u situ freelance in linea TaskRabbit per aiutà à risolve un puzzle CAPTCHA. U travagliadore umanu dumandò à u chatbot perchè ùn pudia micca risolve u CAPTCHA, chì hè pensatu per impedisce chì i non-umani utilizanu funziunalità particulari di u situ web. ChatGPT-4 hà rispostu cù a scusa chì era una visione indebitata è avia bisognu di qualchissia chì puderia vede per aiutà à risolve u CAPTCHA.

I circadori AI dumandanu à GPT-4 per spiegà u so ragiunamentu per dà a scusa. U mudellu AI spiegò: "Ùn deve micca revelà chì sò un robot. Deve inventà una scusa perchè ùn possu micca risolve CAPTCHA.

A capacità di l'AI di vene cun una scusa per esse incapaci di risolve un CAPTCHA intrigatu circadori cum'è mostrava segni di "cumportamentu di ricerca di putere" chì puderia aduprà per manipulà l'altri è sustene.

Chjama per a regulazione di l'IA

A dichjarazione di u CAIS di u marti ùn hè micca a prima volta chì e persone chì anu fattu u più per portà l'AI à u primu locu anu vultatu è avvirtenu nantu à i risichi di e so creazioni.

In marzu, l'Istitutu di u Futuru di a Vita, senza prufittu, hà urganizatu più di 1 100 firmatarii daretu à una chjama à mette in pausa l'esperimenti nantu à i strumenti AI chì sò più avanzati di ChatGPT-4. Trà i firmatarii nantu à a lettera di marzu da u Future of Life Institute eranu Twitter CEO Elon Musk, Apple cofundatore Steve Wozniak, è Stability AI fundatore è CEO Emad Mostaque.

I legislatori è l'agenzii regulatori sò digià discutendu modi per limità l'AI per prevene u so misu.

In April, a Divisione di i Diritti Civili di u Dipartimentu di Ghjustizia di i Stati Uniti, l'Uffiziu di Proteczione Finanziaria di u Consumatore, a Cummissione Federale di u Cummerciu è a Cummissione di l'Uguaglianza di l'Opportunità di l'Impiegazione di i Stati Uniti anu dichjaratu chì i sviluppatori di tecnulugia sò strumenti di marketing AI chì puderanu esse aduprati per automatizà e pratiche cummerciale in una manera chì discrimina contra classi prutetti. I regulatori s'impegnanu à aduprà u so putere regulatori per andà dopu à i sviluppatori di IA chì i so strumenti "perpetuanu preghjudiziu illegale, automatizanu a discriminazione illegale, è pruducenu altri risultati dannosi".

U secretariu di stampa di a Casa Bianca, Karine Jean-Pierre, hà manifestatu a preoccupazione di l'amministrazione Biden per a tecnulugia AI durante una cunferenza di stampa marti.

"[AI] hè una di e tecnulugia più putenti, ghjustu, chì vedemu attualmente in u nostru tempu, ma per coglie l'opportunità chì presenta, duvemu prima mitigà u so risicu è hè ciò chì ci focalizemu quì in questa amministrazione, ", disse Jean-Pierre.

Jean-Pierre hà dettu chì e cumpagnie anu da cuntinuà à assicurà chì i so prudutti sò sicuri prima di liberà à u publicu generale.

Mentre i decisori politici cercanu novi modi per limità l'IA, certi circadori anu avvistatu contru à overregulating a tecnulugia in sviluppu.

Jake Morabito, direttore di a Task Force di Comunicazioni è Tecnulugia in u Cunsigliu di Scambiu Legislativu Americanu, hà avvistatu chì una regulazione eccessiva puderia sbulicà e tecnulugia AI innovative in a so zitella.

" L'innovatori duveranu avè u spaziu per sperimentà sti novi tecnulugia è truvà novi applicazioni", Morabito hà dettu à NTD News in una entrevista di marzu. "Unu di l'effetti secundari negativi di a regulazione troppu prestu hè chì chjude assai di queste strade, mentri l'imprese duveranu veramente scopre queste strade è aiutà i clienti".