Ultimi Nutizie

Attualità mundiale per u populu corsu

Rivista Principià

Perchè Altman sguassate u cumitatu di sicurezza AI di Open AI?

Perchè Altman sguassate u cumitatu di sicurezza AI di Open AI?

Dopu à Ilya Sutskever, anzianu direttore scientificu di OpenAI, u so omu drittu Jan Leike dice ancu cuntruversu addiu à u gruppu, dendu sostanza à i rumuri di una feuda interna è rinfurzendu l'accusazioni di Elon Musk: "Avemu bisognu di capiscenu cumu cuntrullà AI chì hè. più intelligente chè noi. A cultura è i prucessi di sicurità anu pigliatu un postu in daretu à i prudutti brillanti ".

A telenovela di OpenAI cuntinueghja, a startup – in quale Microsoft hà investitu 11 miliardi di dollari – rispunsevuli di a principale intelligenza artificiale generativa (almenu in termini di notorietà): ChatGpt. Dopu à Ilya Sutskever , anzianu direttore scientificu di OpenAI , a so manu diritta Jan Leike parte ancu.

CHE SUCCEDE IN OPENAI ?

Riportendu a nutizia di l'addiu di l'ingegneru russu à a cumpagnia, Start avia datu risonanza à i rumuri sempre più insistenti chì Sutskever (chì in nuvembre scorsu avia disqualificatu u CEO Sam Altman (in foto), chì era però ricurdatu in u circondu strettu per via di i soldi grossi. in ghjocu) era partutu sbattendu a porta.

U TEAM PER CONTENU INTELLIGENZA ARTIFICIALE

Ebbè, cù a dimissioni di Jan Leike, sti rumuri sò effettivamente ufficializzati. In fatti, tramindui anu prumuvutu i membri di u Superalignment d'OpenAI, un cumitatu internu pensatu per affruntà e dumande murali in u cuntestu di u sviluppu di una tecnulugia scunnisciuta è potenzialmente periculosa, micca solu in quantu à u sviluppu di falsi profondi particularmente raffinati, ma ancu per u so impattu. . nantu à u mondu di u travagliu. OpenAI avia prumessu di assignà u 20% di a putenza di l'informatica dispunibile à stu nobile scopu.

Sicondu e fonti TechCrunch , però, a casa di software guidata da Sam Altman ùn hà mai furnitu e risorse informatiche necessarie, bluccà in modu efficace u travagliu di a squadra. Una squadra chì, cù l'addiu di Sutskever prima è Leike subitu dopu, hè oghji effittivamenti decapitata è ridutta à u minimu.

"Eru u capu di u super-allineamentu OpenAI è lascià stu travagliu hè una di e cose più duru chì aghju mai fattu – hà scrittu Jan Leike in X – perchè avemu bisognu urgente di capisce cumu pudemu guidà è cuntrullà i sistemi AI chì sò più intelligenti di noi. ".

L'ACCUSAZIONI DI LEIKE À OPENAI

U postu cù quale l'anzianu membru di a casa di software chì hà appena alzatu u velu nantu à Gpt-4o hà una clara connotazione polemica: "Aghju unitu à OpenAI perchè pensu chì era u megliu postu in u mondu per fà stu tipu di ricerca – ellu. sempre spiegò Leike – Tuttavia, ùn aghju micca d'accordu per qualchì tempu cù e priorità stabilite da a dirigenza di a cumpagnia. Credu chì a maiò parte di a nostra larghezza di banda deve esse spesa per a preparazione per a sicurità, u monitoraghju, u super – allineamentu è l'impattu suciale di e prossime generazioni di mudelli. Ma in l'ultimi mesi a mo squadra hà avutu a lotta per avè u putere di computing necessariu per sta ricerca cruciale ".

L'ULTIMU HIT DI SAM ALTMAN?

E parolle di l'anzianu impiigatu dannu sustanza à l'ipotesi chì ci era duie fazioni in OpenAI: quella guidata da Ilya Sutskever chì vulia capisce ogni risichi liati à u sviluppu di algoritmi sempre più intelligenti, ancu à u costu di rallentà u so. cummercializazione è quella di una opinione completamente diversa guidata da Sam Altman, chì avaristi investitori soprattuttu à a so parte. Tantu cusì chì, se inizialmente, u nuvembre scorsu, u Cunsigliu di Amministrazione hà sappiutu caccià u CEO, avà hè u cuntrariu è a purga di i cesaricidi pare avè principiatu in OpenAI.

"OpenAI hà una responsabilità à l'umanità. Ma in l'ultimi anni, a cultura è i prucessi in quantu à a sicurità anu pigliatu un backseat à i prudutti brillanti ", l'accusazione di l'anzianu capu di a squadra incaricata di prublemi etichi è murali di a casa di software. Ùn ci hè micca cunfirmazione di a verità di e parolle di Leike, ma u fattu in sè stessu, almenu permette di cunfirmà chì ùn hè mai una bona idea quandu a qualificazione di cuntrollu hè cunfusa cù u rolu di a persona cuntrullata. Succede per l'imprese analogiche, evidentemente succede ancu in i più high-tech.

L'ACCUSAZIONI FATTE CONTRE OPENAI DA MUSK RINFORZATE

Avà parechji nantu à Internet si dumandanu se a creazione di una multinazionale senza scrupulu guidata da un omu chì più è più osservatori ritragiscenu cum'è un villanu stereotipatu da un filmu 007, hè in ogni modu, puderia ancu esse un puzzicheghju di publicità simplice u vechju adagiu di "finu à quandu avemu parlatu".

Elon Musk stessu, unu di i primi finanzieri di l'OpenAI è oghje un feroce avversariu di u Gruppu, avia sfruttatu u timore di i periculi potenziali per scopi promozionali lanciando a so startup nantu à l'intelligenza artificiale generativa. Musk, in ogni modu, hà sottolineatu in parechje occasioni in u passatu ricenti chì inizialmente a cumpagnia chì hà finanziatu era senza prufittu, mentre chì oghje persegue un scopu di prufittu.

È COSA DICI MICROSOFT ?

In tuttu questu, però, saria interessante di capisce a pusizioni di Microsoft, u sponsor principale di ChatGpt è i so cumpagni, chì dapoi mesi ripete chì l'IA hà da purtà benefici à l'umanità solu suscitando l'appetite di l'investituri privati ​​è publichi. cù promesse maravigghiusu di l'impattu ecunomicu nantu à u PIB ( secunnu a ricerca cumissionata da Ambrosetti, a produtividade di u sistema talianu puderia aumentà finu à 18% grazia à l'adopzione di l'Intelligenza Artificiale Generativa ). Cumu u giant di Redmond, recentemente in u centru di cuntruversia per via di i numerosi licenziamenti in u settore di i ghjoculi , trattà u prublema?

Questa hè una traduzzione automatica da a lingua italiana di un post publicatu in StartMag à l’URL https://www.startmag.it/innovazione/perche-altman-rottama-il-comitato-di-sicurezza-di-open-ai-sullia/ u Mon, 20 May 2024 09:48:17 +0000.