“Se andemu avanti nantu à questu, tutti moriranu” Avvertisce un espertu di IA chì chjama un arrestu assolutu

Scritta da Naveen Athrappully via The Epoch Times (enfasi nostra),

L'esseri umani ùn sò micca pronti per una putente IA in cundizioni attuali o ancu in u "futuru prevedibile", hà dichjaratu un espertu maiò in u campu, aghjustendu chì a recente lettera aperta chì chjamava una moratoria di sei mesi nantu à u sviluppu di l'intelligenza artificiale avanzata hè "sottovaluta". a gravità di a situazione ".

" U prublema chjave ùn hè micca l'intelligenza "umanu-cumpetitiva" (cum'è a lettera aperta dice); hè ciò chì succede dopu chì l'AI ghjunghje à una intelligenza più intelligente di l'umana ", hà dettu Eliezer Yudkowsky, teoricu di a decisione è ricercatore di l'intelligenza artificiale in una rivista di u 29 di marzu Time . "Molti circadori intrisi di sti prublemi, cumpresu mè stessu, aspettanu chì u risultatu più prubabile di custruisce una IA superumana intelligente, in qualcosa di remotamente cum'è e circustanze attuali, hè chì literalmente tutti in a Terra moriranu.

" Ùn cum'è in "forse possibbilmente una chance remota", ma cum'è in "questa hè a cosa ovvia chì succederà". "Ùn hè micca chì ùn pudete micca, in principiu, sopravvive à creà qualcosa assai più intelligente di voi; hè chì averia bisognu di precisione è preparazione è novi insights scientifichi, è prubabilmente ùn avè micca sistemi AI cumposti da matrici giganti inscrutable di numeri fraccionari ".

Dopu à a recente pupularità è a crescita splussiva di ChatGPT, parechji dirigenti di l'imprese è circadori, attualmente in totale 1,843 cumpresi Elon Musk è Steve Wozniak, firmavanu una lettera chì chjamava "tutti i laboratori AI à mette immediatamente in pausa per almenu 6 mesi a furmazione di sistemi AI più putenti. cà GPT-4 ". GPT-4, liberatu in marzu, hè l'ultima versione di u chatbot di OpenAI, ChatGPT.

L'IA "ùn importa" è esigerà diritti

Yudkowsky predice chì in l'absenza di una preparazione meticulosa, l'AI avarà esigenze assai diverse da l'omu, è una volta cunsciente di sè stessu "ùn ci importarà micca" nè alcuna altra vita senziente. "Questu tipu di cura hè qualcosa chì puderia esse in principiu impregnatu in una IA, ma ùn simu pronti è ùn sapemu micca cumu". Questu hè u mutivu per quessa ch'ellu dumanda u chjusu assolutu.

Senza un approcciu umanu à a vita, l'IA cunsidererà solu tutti l'esseri senzienti cum'è "fatti di atomi chì ponu aduprà per qualcosa d'altru". È ci hè pocu l'umanità pò fà per piantà. Yudkowsky hà paragunatu u scenariu à "un zitellu di 10 anni chì prova di ghjucà à scacchi contr'à Stockfish 15". Nisun ghjucatore di scacchi umanu hà ancu pussutu batte à Stockfish, chì hè cunsideratu cum'è una impresa impussibile.

U veteranu di l'industria hà dumandatu à i lettori di imaginà a tecnulugia AI cum'è ùn hè micca contenuta in i limiti di l'internet.

"Visualizà una civilisazione aliena intera, pensendu à milioni di volte a velocità umana, inizialmente limitata à l'urdinatori – in un mondu di criature chì, da a so perspettiva, sò assai stupidi è assai lenti".

L'IA espansione a so influenza fora di a periferia di e rete fisiche è puderia "custruisce forme di vita artificiale" utilizendu laboratori induve e proteine ​​​​sò prudutte cù corde di DNA.

U risultatu finale di a custruzzione di una IA onnipotente, in e cundizioni attuali, seria a morte di "ogni membru di a spezia umana è di tutta a vita biologica in a Terra", hà avvistatu.

Leghjite più quì …