Musk, Wozniak chjamanu una pausa in u sviluppu di IA “più potente” cà GPT-4

Elon Musk, Steve Wozniak, u pioniere di l'IA Yoshua Bengio è altri anu firmatu una lettera aperta chì chjamava una pausa di sei mesi in u sviluppu di novi strumenti di IA più putenti cà GPT-4 , a tecnulugia liberata prima di u mese da a startup sustinuta da Microsoft OpenAI, u Wall Street Journal raporta.

I sistemi AI cuntempurani sò diventati cumpetitivi umani à i travaglii generali , è ci vole à dumandà: duvemu lascià e macchine inundà i nostri canali d'informazione cù propaganda è falsità? Duvemu automatizà tutti i travaglii , cumpresi quelli chì cumplenu? Duvemu sviluppà menti non-umane chì puderanu eventualmente superare in numeri, più intelligenti, obsoleti è rimpiazzà noi? Duvemu risicà a perdita di cuntrollu di a nostra civilizazione? Tali decisioni ùn devenu esse delegate à i dirigenti tecnologichi non eletti . I sistemi AI putenti sò deve esse sviluppati solu una volta chì avemu cunfidenti chì i so effetti seranu pusitivi è i so risichi seranu gestibili. – futureoflife.org

" Avemu ghjuntu à u puntu induve sti sistemi sò abbastanza intelligenti chì ponu esse aduprati in modi chì sò periculosi per a sucità ", disse Bengio, direttore di l'Istitutu di Montreal per l'Algoritmi di Apprendimentu di l'Università di Montréal, aghjustendu "È ùn avemu micca ancu. capiscenu".

E so preoccupazioni sò state presentate in una lettera intitulata "Pause Giant AI Experiments: An Open Letter", chì hè stata guidata da u Future of Life Institute – una organizzazione senza prufittu cunsigliata da Musk.

A lettera ùn chjama micca tuttu u sviluppu di l'AI per arrestà, ma urge à e cumpagnie à piantà temporaneamente i sistemi di furmazione più putenti cà GPT-4, a tecnulugia liberata stu mese da a startup OpenAI sustinuta da Microsoft Corp. Chì include a prossima generazione di tecnulugia OpenAI, GPT-5.

L'ufficiali OpenAI dicenu chì ùn anu micca cuminciatu à furmà GPT-5 . In una entrevista, u CEO di OpenAI, Sam Altman, hà dettu chì a cumpagnia hà longu datu a priorità à a sicurità in u sviluppu è hà passatu più di sei mesi à fà teste di sicurezza in GPT-4 prima di u so lanciu. – WSJ

"In un certu sensu, questu hè pridicatu à u coru", disse Altman. "Avemu, pensu, parlatu di sti prublemi u più forte, cù a più intensità, per u più longu".

Goldman, intantu, dice chì finu à 300 milioni di impieghi puderanu esse rimpiazzati cù AI, postu chì "dui terzi di l'occupazioni puderanu esse parzialmente automatizati da AI".

A chjamata AI generativa crea un cuntenutu uriginale basatu annantu à i suggerimenti umani – una tecnulugia chì hè digià stata implementata in u mutore di ricerca Bing di Microsoft è altri strumenti. Pocu dopu, Google hà implementatu un rivalu chjamatu Bard . Altre cumpagnie, cumprese Adobe, Salesforce è Zoom, anu introduttu tutti l'arnesi avanzati di AI.

"Una corsa principia oghje", hà dettu u CEO di Microsoft Satya Nadella in cumenti u mese passatu. "Avemu da spustà, è andemu prestu".

Unu di l'urganizatori di a lettera , Max Tegmark, chì dirige l'Istitutu di u Futuru di a Vita è un prufissore di fisica à l'Istitutu di Tecnulugia di Massachusetts, a chjama una "razza suicida".

"Hè una disgrazia di inquadrare questu cum'è una corsa di l'armamenti", disse. "Hè più di una razza suicida. Ùn importa micca quellu chì hà da vene prima. Significa solu chì l'umanità in tuttu puderia perde u cuntrollu di u so propiu destinu ".

L'Istitutu Future of Life hà iniziatu à travaglià nantu à a lettera a settimana passata è inizialmente hà permessu à qualcunu di firmà senza verificazione d'identità. À un certu puntu, u nome di u Signore Altman hè statu aghjuntu à a lettera, ma dopu sguassatu. U Signore Altman hà dettu chì ùn hà mai firmatu a lettera. Ellu disse chì a cumpagnia spessu coordina cù altre cumpagnie AI nantu à i normi di sicurità è per discutiri preoccupazioni più larghe.

"Ci hè un travagliu chì ùn facemu micca perchè ùn pensemu micca chì sapemu ancu cumu rende abbastanza sicura ", disse. "Allora sì, pensu chì ci sò modi chì pudete rallentà in parechje assi è questu hè impurtante. È face parte di a nostra strategia ". – WSJ

Musk – un primu fundatore è finanziatore finanziariu di OpenAI, è Wozniak, anu parlatu di i periculi di l'IA per un tempu.

" Ci sò seri prublemi di risicu AI ", hà tweetatu.

U scientist AI capimachja di Meta, Yann LeCun, ùn hà micca firmatu a lettera aperta perchè dice ch'ellu ùn hè d'accordu cù a so premessa (senza elaborare).

Di sicuru, certi sò digià speculate chì i firmatarii ponu avè motivi ulteriori.

Leghjite questu cum'è "una moratoria di sei mesi o più mi daria u tempu di copià è / o di custruisce qualcosa simili è ùn esse micca lasciatu da parte" https://t.co/MsO0PwkJON

– alpha raccoon (@thealpharaccoon) 29 di marzu di u 2023