Crià “Bon” AGI chì ùn ci ucciderà micca tutti: l’Alianza di Superintelligenza Artificiale di Crypto

Scrittu da Andrew Fenton via CoinTelegraph.com,

SingularityNET è l'Alianza di Superintelligenza Artificiale anu u scopu di caccià u cuntrollu di AGI luntanu da Big Tech…

Dopu un annu di avvirtimenti sempre più terribili annantu à a morte imminente di l'umanità à e mani di l'intelligenza artificiale superintelligente (AI), Magazine hè in Panama à a Cunferenza AGI Beneficiale per sente l'altra parte di a storia.

I participanti includenu una mistura eclettica di transhumanisti, cripto folk, autori di sci-fi cumpresi David Brin, futuristi è accademichi.

Semu à a cunferenza gestita da SingularityNET, un membru chjave di a pruposta nova Artificial Superintelligence Alliance, per sapè ciò chì succede se tuttu va bè cù a creazione di intelligenza generale artificiale (AGI) – intelligenza generale artificiale à livellu umanu.

Ma cumu facemu quellu futuru, piuttostu chè u scenariu in quale Skynet diventa canaglia è ci uccide tutti?

Unu di i migliori insights in perchè sti dumande sò cusì impurtanti vene da u futurista Jose Luis Cordeiro, autore di A Morte di a Morte , chì crede chì l'umanità guariscerà tutte e malatie è l'anziane grazie à AGI.

Dici à Magazine di qualchi saviezza sage chì Arthur C. Clarke, l'autore di 2001: A Space Odyssey , una volta li disse.

Ellu disse: "Avemu da esse pusitivi annantu à u futuru perchè l'imaghjini di u futuru – di ciò chì hè pussibule – cumincianu cù a nostra mente. Se pensemu chì avemu da autodistrughje, assai prubabilmente. Ma se pensemu chì sopravvivemu, [chì] andemu in un mondu megliu [allora] travaglià versu questu è l'avemu da ottene.' Allora principia in a nostra mente ".

Janet Adams, CEO di SingularityNET, riscalda a cunferenza cù un pocu di yoga. (Fenton)

AGI benefica: A ricerca di l'intelligenza generale artificiale

L'umani sò urdinati per fucalizza più nantu à e minacce esistenziali da AGI cà nantu à i benefici.

Parlendu di l'evoluzione, hè megliu chì a nostra spezia si preoccupa nove volte troppu spessu chì u ventu chì brusgiava in l'arbureti puderia esse un tigre chè ùn hè micca disprezzatu per u rughjone è esse manghjatu da un tigre à a 10a occurrence.

Ancu i doomers ùn ponenu micca un altu percentuale di probabilità chì AGI ci uccida tutti, cù un sondaghju di quasi 3000 circadori AI chì suggerisce chì a probabilità di un risultatu estremamente cattivu varia da circa 5% à 10% . Allora, mentre chì hè preoccupante, e probabilità sò sempre in u nostru favore.

Apertura di a cunferenza, u fundatore SingularityNET è u "Babbu di AGI", u duttore Ben Goertzel, hà pagatu tributu à u cuncettu di l'accelerismu difensivu di u fundatore di Ethereu Vitalik Buterin. Hè u puntu mediu trà l'efficace accelerazionismu tecno-ottimistu è u so ethos di "mosse rapidamente è rompe e cose", è i decelerationists, chì volenu rallentà o frenà u galoppante ritmu di u sviluppu di l'IA.

Goertzel crede chì a decelerazione hè impussibile, ma cuncede chì ci hè una piccula probabilità chì e cose puderanu sbaglià terribilmente cù AGI. Dunque, hè favurevule à perseguite AGI mentre hè attentu à i periculi potenziali. Cum'è parechji in u campu AI / criptu , crede chì a suluzione hè open-sourcing a tecnulugia è a decentralizazione di u hardware è a governanza.

U duttore Ben Goertzel nantu à i tastieri cù a so banda di robot sorprendentemente bona. (Fenton)

Cos'è l'Alleanza di Superintelligenza Artificiale?

Questa settimana SingularityNET hà annunziatu chì hà unitu cù a piattaforma multi-agente decentralizata FetchAI – fundata da u veteranu DeepMind Humayun Sheikh – è a piattaforma di scambiu di dati Ocean Protocol per furmà l' Alianza di Superintelligenza Artificiale (ASI).

Serà u più grande attore indipendente open-source in a ricerca è u sviluppu di l'AI è hà prupostu di unisce i tokens esistenti di SingularityNET, FetchAI è Ocean Protocol in un novu chjamatu ASI. Averia una capitalizazione di u mercatu cumplettamente diluita di circa $ 7,5 miliardi – sottumessu à i voti d'appruvazioni in e prossime duie settimane. E trè piattaforme continuanu à operare cum'è entità separate sottu a guida di Goertzel, cù Sheikh cum'è presidente.

Sicondu l'Alleanza, l'obiettivu hè di "creà una putente alternativa convincente à u cuntrollu di Big Tech nantu à u sviluppu, l'usu è a monetizazione di l'AI" creendu una infrastruttura AI decentralizata à scala è accelerà l'investimentu in AGI basatu in blockchain.

Chì sò i benefici di AGI?

Probabilmente l'impattu beneficu più evidente hè u potenziale di AGI per analizà enormi fasce di dati per aiutà à risolve parechji di i nostri prublemi scientifichi, ambientali, suciali è medichi più difficili.

Avemu digià vistu alcune scuperte medichi stupendenti, cù i circadori MIT chì utilizanu mudelli AI per valutà decine di millaie di cumposti chimichi potenziali è scupertu a prima nova classe di antibiotici in 60 anni , una chì hè efficace contr'à i batteri MRSA resistenti à a droga. Hè u tipu di scala di ricerca chì hè quasi impussibile per l'omu di ottene.

È questu hè tuttu prima di ghjunghje à l'immortalità è a carica di mente chì i transhumanisti sò assai entusiasmati, ma chì stranu a maiò parte di a ghjente.

Questa capacità di analizà grandi quantità di dati suggerisce ancu chì a tecnulugia serà capace di dà avvisi precoci di pandemie, disastri naturali è prublemi ambientali. L'IA è l'AGI anu ancu u putenziale di liberà l'omu da u travagliu è u travagliu ripetitivu, da a codificazione à l'assistenza di u cliente.

Mentre chì questu pruvucarà un sconvolgimentu massivu à a forza di travagliu, l'invenzione di e lavatrici è l'imprese in linea di Amazon anu avutu un grande impattu nantu à occupazioni particulare. A speranza hè chì un munzeddu di novi impieghi seranu creati invece.

U prufissore ecunomicu Robin Hanson dice chì questu hè accadutu in l'ultimi dui decennii, ancu s'è a ghjente era assai preoccupata à a fine di u seculu chì l'automatizazione rimpiazzà i travagliadori.

U studiu di Hanson di e dati nantu à cumu l'automatizazione hà impactatu i salarii è l'impieghi in diverse industrie trà u 1999 è u 2019 hà truvatu chì, malgradu i grandi cambiamenti, a maiò parte di e persone anu sempre un travagliu è sò stati pagati quasi u listessu.

"In media, ùn ci era micca un effettu netu nantu à i salarii o l'impieghi in l'automatizazione di l'impieghi di i Stati Uniti da 1999 à 2018", dice.

U CEO di SingularityNET Janet Adams è Sergey Shalyapin, u capu di tecnulugia di a piattaforma. (Fenton)

AGI puderia piglià decisioni megliu cà noi : Janet Adams, CEO di SingularityNET

Janet Adams, u CEO ottimista di SingularityNET, spiega chì AGI hà u putenziale di esse "straordinariamente pusitivu per tutta l'umanità".

"Veghju un futuru in quale i nostri futuri AGI piglianu decisioni chì sò più etiche cà e decisioni chì l'omu facenu. È ponu fà quessa perchè ùn anu micca emozioni o gelosia o avidità o agende nascoste ", dice.

Adams indica chì 25 000 persone mori ogni ghjornu di fami, ancu quandu e persone in i paesi ricchi ghjittanu muntagne di cibo. Hè un prublema chì puderia esse risoltu da "allocazione intelligente di risorse in u pianeta", dice.

Ma Adams avvirtenu chì AGI deve esse furmatu nantu à i setti di dati chì riflettenu a pupulazione di u mondu sanu è micca solu u top 1% in modu chì quandu piglianu decisioni, "ùn li feranu micca solu per u benefiziu di i pochi putenti, li farà. per u benefiziu di a civilizazione più larga, l'umanità più larga ".

Sicurezza è etica di l'IA: Affruntà i prublemi

Qualchidunu chì hà vistu i sogni utopichi iniziali di un Internet decentralizatu sfracicà in un paisaghju corporativu cumpletu di publicità di cuncepimentu addictivu è agricultura di ingaghjamentu pò avè dubbitu chì questu futuru rosatu hè pussibule.

A custruzzione di l'AI high-end richiede una muntagna di informatica è altre risorse chì sò attualmente fora di a portata di tutti, ma una manciata di i soliti suspettati: Nvidia, Google, Meta è Microsoft. Allora l'assunzione predeterminata hè chì unu di sti giganti tecnulugichi finiscinu per cuntrullà AGI.

Goertzel, un hippy à i capelli longi chì ghjoca in una banda sorprendentemente bona di fronte à un robot, vole sfida à questa supposizione.

Goertzel indica chì l'assunzione predeterminata era chì e cumpagnie cum'è IBM vinceranu l'industria di l'informatica è Yahoo vinceria a ricerca.

Una copia stracciata di u Prughjettu Prometheus. (Fonte: Internet Archive)

"U mutivu chì queste cose cambianu hè perchè a ghjente si battava concretamente per cambià in ogni casu", dice. "Invece, Bill Gates, Steve Jobs è i ragazzi di Google sò ghjunti".

U fundatore di SingularityNET, hà pensatu à a Singularità (un mumentu teoricu quandu u sviluppu tecnulugicu aumenta in modu esponenziale) dapoi u principiu di l'anni 1970 quandu hà lettu un primu libru nantu à u sughjettu chjamatu U Progettu Prometheus .

Hà travagliatu annantu à AGI per a maiò parte di u tempu da tandu, popularisendu u terminu AGI è lanciando u framework OpenCog AI in 2008.

Adams dice chì Goertzel hè un mutivu chjave chì SingularityNET hà un colpu credibile.

"Semu a più grande squadra di scienza è ricerca di AI senza prufittu, finanzata da criptu di u pianeta", dice Adams, nutendu chì i so cuncurrenti sò stati cuncentrati in "AI stretti" cum'è ChatGPT è solu avà trasfurmendu a so strategia à AGI.

"Sò anni daretu à noi", dice ella. "Avemu trè decennii di ricerca cù u duttore Ben Goertzel in metudi simbolichi neurali".

Ma ella aghjusta chì l'apertura di a piattaforma à tutti i sviluppatori in u mondu è a ricumpensa per a so cuntribuzione li darà u vantaghju ancu annantu à e mega-corporazioni chì attualmente dominanu u spaziu.

"Perchè avemu una visione putente è un impegnu putente à custruisce l'AGI più avanzatu è intelligente in una manera demucratica, hè difficiule d'imaginà chì Big Tech o qualsiasi altru attore puderia entra è cumpete, in particulare quandu site contru l'apertura. fonte. "

"[Videremu] un afflussu potenzalmentu enormu di persone chì si sviluppanu nantu à u mercatu SingularityNET è l'escalazione cuntinua di u ritmu versu AGI. Ci hè una bona chance chì saremu noi ".

HyperCycle CEO Toufi Saliba (Fenton)

AI Descentralizata: Apertura a porta à u sviluppu open source

U Prughjettu Prometheus hà prupostu chì l'IA era un sviluppu cusì terribile chì tutti in u mondu duverebbe ottene un votu demucraticu nantu à u so sviluppu.

Allora quandu u blockchain emerge, pareva chì l'implementazione di l'infrastruttura decentralizata è a guvernanza basata in token per l'IA era a prossima alternativa più pratica.

U CEO di HyperCycle, Toufi Saliba, hà dettu à Magazine chì questu mitiga a minaccia di una sucietà centralizzata o di un paese autoritariu guadagnà un immensu putere da u sviluppu di AGI prima, chì seria "a peor cosa chì hè mai accaduta à l'umanità".

Ùn hè micca l'unica suluzione potenziale à u prublema. U scienziatu di l'IA in capu di Meta Yan Le Cun hè un grande proponente di mudelli di IA open-sourcing è lasciate fiorire mille fiori, mentre u pruprietariu di X Elon Musk hà recentemente apertu u mudellu per Grok.

Ma blockchain hè senza dubbitu un grande passu avanti. SingularityNET hà u scopu di rete a tecnulugia in u mondu, cù diversi cumpunenti cuntrullati da e diverse cumunità, sparghjendu cusì u risicu di ogni cumpagnia, gruppu o guvernu chì cuntrolla l'AGI.

"Allora pudete aduprà queste infrastrutture per implementà e rete neurali profonde decentralizate, pudete aduprà per implementà un mutore logicu enormu, pudete aduprà per implementà un approcciu di vita artificiale induve avete un ecosistema simulatu è una mansa di picculi animali artificiali chì interagiscenu è pruvà à evoluzione versu l'intelligenza ", spiega Goertzel.

Vogliu favurizà cuntributi creativi da ogni locu, è pò esse, sapete, un geniu di 12 anni da Tadjikistan vene cun una nova innuvazione di vita artificiale chì furnisce un avanzu à AGI.

Hè pussibule chì u destinu di u mondu pò ripusà in e mani di questu omu. (Fenton)

Cosa hè HyperCycle? Cosa hè OpenCog Hyperon?

HyperCycle hè una catena di blocchi senza ledger chì hè abbastanza veloce per permette à i cumpunenti AI di cumunicà, coordine è transazzione à a finalità in menu di 300 millisecondi. L'idea hè di dà à l'AI una manera di chjamà e risorse di l'altri AI, pagatu per via di microtransazzioni.

Per avà, a reta naziunale hè aduprata per l'applicazioni à piccula scala, cum'è una app AI chì chjama un altru serviziu AI per aiutà à compie un compitu. Ma in u tempu, cum'è a scala di a rete, hè teoricamente pussibule chì AGI puderia esse una pruprietà emergente di i diversi cumpunenti AI chì travaglianu inseme in una sorta di cervellu distribuitu.

"Allora, in questu approcciu, u mondu sanu hà una chance assai più altu di ghjunghje à AGI cum'è una sola entità", dice Saliba.

Goertzel ùn hà micca sviluppatu HyperCycle per questu mutivu – avia solu bisognu di qualcosa chilometri più veloce di i blockchains esistenti per permette à l'AI di travaglià inseme.

U prughjettu chì hè più entusiasmu hè OpenCog Hyperon, chì lancia in alfa stu mese. "Unisce reti neurali profonde, motori logici, apprendimentu evolutivu è altri paradigmi AI in u stessu framework di software, per aghjurnà u stessu Graficu di cunniscenza estremamente decentralizatu".

L'idea hè di scaccià e porte à tutti quelli chì volenu travaglià nantu à questu in a speranza di pudè migliurà a lingua di prugrammazione METTA AGI per pudè scala in massa. "Avemu u set di strumenti cumpletu per custruisce u zitellu AGI", dice. "Per ottene qualcosa chì vogliu chjamà baby AGI, avemu bisognu di un milione di volte accelerà l'interprete METTA", dice.

"U mo propiu ipotesi hè chì Opencog Hyperon pò esse u sistema per fà a svolta [AGI]".

Governance AI: U rolu di i sistemi di votu

Di sicuru, a decentralizazione ùn assicura micca chì e cose andaranu bè cù AGI. Cum'è Goertzel indica, u guvernu di Somalia hè statu decentralizatu assai largamente in l'anni 1990 sottu una mansa di signori di guerra è milizie, ma saria statu preferibile à l'epica di campà sottu u guvernu centralizatu di a Finlandia.

Inoltre, a guvernanza basata in token hè assai luntanu da esse adatta per u prime time. In prughjetti cum'è Uniswap è Maker, i grandi titulari cum'è a16z è a squadra di core anu tanti tokens chì ùn vale quasi micca a pena di vutà à qualcunu altru. Parechje altre urganisazioni autonome decentralizate sò strappate da a pulitica è a lotta interna.

U prezzu crescente di i prughjetti di criptu / AI hà attrattu una mansa di speculatori di token. Sò questi veramente e persone chì vulemu mette in cuntrollu di AGI?

Goertzel sustene chì mentre i prughjetti di blockchain sò attualmente attrattivi principalmente per e persone interessate à guadagnà soldi, chì cambierà cum'è u casu d'usu evoluzione.

"Se stendemu l'IA più intelligente di u mondu nantu à e rete decentralizate, uttene parechje altre persone implicate chì ùn sò micca orientate principalmente à a speculazione finanziaria. È tandu serà una cultura diversa ".

Ma se l'Alleanza di Superintelligenza Artificiale riesce à ottene l'AGI, i so tokens ùn saranu micca ridicolmente caru è fora di a portata di quelli chì s'interessanu principalmente à l'AGI benefica?

Cumu Goertzel hà dettu à Magazine prima, e nostre chance di cuntrullà AGI dopu un certu puntu sò slim. (Fenton)

Goetzel suggerisce chì forse un sistema di votu ponderatu chì dà priorità à quelli chì anu cuntribuitu à u prugettu pò esse dumandatu:

"Pensu chì per guidà a mente di l'AGI, vulemu sparghje un sistema di reputazione abbastanza sofisticatu, decentralizatu è avè qualcosa più vicinu à una persona, un votu, ma induve e persone chì anu una certa storia di cuntribuisce à a reta AI è di fà. un certu sensu, uttene un pesu più altu ".