Hè u 2030, è i robot anu più diritti chè voi…

Scrittu da Mark Jeftovic via BombThrower.com,

Ruminendu nantu à i nostri signori roboti è u scenariu mancante

Avà chì ChatGPT hà splutatu nantu à u palcuscenicu, ci hè un hype rinnuvatu intornu à l'Intelligenza Artificiale (AI). Ogni volta chì l'AI catturà l'imaginazione publica, simu sottumessi à cungettura senza restrizioni annantu à cume inevitabbilmente pigliarà u futuru è cambia a nostra vita.

Semu portati à crede chì l'IA inaugurerà una era di signori iper-intelligenti, finu à avà avanzata oltre e nostre capacità cognitive grossolane è analogiche chì a quistione esistenziale di u futuru si centrarà intornu:

• quantu putere o diritti cunferemu à questi esseri ?

• agiranu benevolmente o malevule versu noi?

.

Ma sti quistioni presupponiscenu una supposizione centrale intornu à l'IA chì tutti accunsenu chì ùn hè micca vera avà, ma inevitabbilmente diventerà vera in u futuru – dopu uni pochi iterazioni di a Legge di Moore …

Questa hè l'idea chì l'AI uttene l'intelligenza artificiale generale , è cun questu hè implicatu un certu sensu di sensibilità (altri ùn ci hè nunda à dà diritti ).

U pezzu di Newsweek à a diritta in l'imaghjini sopra hè da u futurista transhumanista Zoltan Istvan. Ellu descrive cumu l'etica di l'AI sò divisi nantu à a materia di se i futuri robots iper-intelligente deve esse attribuiti diritti.

Da una parte, ùn dà micca i diritti umani à i robots chì anu AGI (intelligenza generale à parità di l'omu), cummettemu un "errore di diritti civili" chì ci dispiaceremu in u futuru.

Questu hè oppostu da quelli chì affirmanu chì i robots sò machini è ùn anu mai bisognu di diritti, perchè ùn sò micca senzienti (hè quì chì aghju sbarcatu nantu à questu, è vi dicu perchè quì sottu).

L'altri credenu in una terra media induve certi robots chì mostranu intelligenza generale seranu attribuiti alcuni diritti "secondu a so capacità, i sistemi morali, i cuntributi à a sucità" (chì mi pare un pocu reminiscente di una clausola "trè / quinti").

Ma in generale, Istvar pare suppone chì l'IA hà da ottene super-intelligenza, è diventerà esseri assai superiori in termini di putenza di u cervellu per noi i sacchetti di carne goffi di l'umanità.

Chì ci lascia cù trè percorsi pussibuli avanti:

# 1 Appellu à a benevolenza di a super-intelligenza di l'IA

"Data a pussibilità di ricumpensa o punizioni, se l'intelligenza di a macchina diventa eventualmente qualcosa cum'è un diu AI chì pò manipulà assai è allargà a vita umana per u bonu o u male, allora a ghjente duverebbe principià immediatamente à cunsiderà cumu u nostru futuru signore piacerebbe esse purtatu in esistenza. è trattatu. Dunque, u modu chì l'omu trattanu u sviluppu di l'IA oghje – è se damu i diritti è u rispettu à i robot in un futuru vicinu – puderia fà a diferenza in quantu a nostra spezia hè trattata un ghjornu ".

Questa hè una variazione di Pascal's Wager – un prototipu di teoria di u ghjocu chì hà cunclusu chì e cunsequenze di crede in Diu è esse sbagliati (nunda) eranu megliu cà esse sbagliati in ùn crede (dannazione eterna).

# 2 Hopium. Forse l'IA ci lasceranu solu

Tuttavia, sicondu Istvan "datu a nostra influenza è a distruzzione ambientale chì pruvucamu nantu à u pianeta Terra", pudemu "aggravate facilmente l'AI" chì pigliarà e cose in e so mani per curregge e cose, è noi. Questu ultimu scenariu hè una variazione di u Basilisk di Roko, chì hè ancu citatu in u pezzu di Istvan.

Roko's Basilisk era un esperimentu di pensamentu chì emerge da LessWrong di u programatore Eliezer S. Yudkowsky chì scuzzulò i fundamenti di u situ è ​​spavintò u beejeesus fora di i nerds altrimenti super-brainiac.

Hè "L'esperimentu di pensamentu più terribili di tutti i tempi!", iper-ventila a rivista Slate .

Sempre informa u pensamentu di Yudkowsky finu à questu ghjornu. Hà recentemente promulgatu u "U Prublemu di l'Allineamentu" chì assume chì l'umanità inevitabbilmente creà IA super-intelligente è inevitabbilmente ci distruggeranu. Pudemu ancu "morire cun dignità", postu chì simu tutti cundannati in ogni modu:

"tl; dr: Hè ovvi à questu puntu chì l'umanità ùn hà micca da risolve u prublema di l'allineamentu, o ancu pruvà assai duru, o ancu esce cù assai di una lotta. Siccomu a sopravvivenza hè inaccessibile, duvemu trasfurmà u focu di i nostri sforzi per aiutà l'umanità à more cun un pocu più dignità ".

Sti tipi di custruzzioni di pensamentu intornu à l'inevitabbilità di l'AI omnipotenti sò simpliciamente reaffirmazioni di l'Argumentu Ontologicu di Sant'Anselmu . Prima furmulatu da Sant'Anselmu di Canterbury in u XI seculu. Mentre hè una logica impressiunanti simili à i paradossi di Zeno , hè solu un argumentu circular chì Diu deve esiste:

"Ddiu hè u più grande esse pussibule chì pò esse cuncipitu. Se un tali esse esiste solu in a mente è micca in a realità, allora un esse più grande pò esse cuncipitu – quellu chì esiste sia in a mente è in a realtà ".

In termini più simplici:

Diu hè l'essere più perfettu chì pudemu imaginà, è hè più perfettu per esse in a realità cà solu in a nostra imaginazione. Dunque, Diu deve esse in realità.
– via ChatGBT sessione 72b43f3e-043f-4db2-aca9-63a76b7945c9

Dà à Diu una striscia media, è avete u Basilisk di Roko. O Skynet.

# 3 Caricate a nostra cuscenza à u nuvulu è unisce cù i robots

Quì Istvan suggerisce chì fusionemu cù AI è pruvate à guidà

Un'ultima opzione hè di pruvà à unisce cù l'IA iniziale carichendu a nostra mente in questu, cum'è Elon Musk hà suggeritu. A speranza hè chì a ghjente puderia diventà unu cù l'IA è guidà bè per esse gentile cù l'omu prima ch'ella divente troppu putente. Tuttavia, ùn ci hè micca garanzia di successu, è puderia solu fà chì l'IA si senti violata à longu andà.

Questa idea hè attribuita à Elon Musk, ancu s'ellu hè sicuru chì Istvan hè certamente cuscente chì questa hè l'essenza di a Singularità sposata da i gusti di Ray Kurweil (Scientist Capu di Google) in u so libru The Singularity is Near. I Cosmists russi anu pruvatu à articulà a listessa cosa più di un seculu fà, ma ùn anu micca ancu rete di computer è apprendimentu automaticu per furnisce a fundazione.

Anni fà, duverebbe scrive un libru nantu à i periculi di stu tecno-utopismo, è in questu, chjamu l'idea chì l'umanità si fusiona cù l'IA è vincerà tutti i nostri mali, "U Falsu Soglia":

Ciò chì rende tuttu questu pussibule hè u ciculu virtuosu creatu da e rete di computer digitale, alimentate da a Legge di Moore, chì dimezza incessantemente a so impronta fisica mentre radduppieghja a so putenza di trasfurmazioni – eventualmente avemu da ottene, è dopu superà, l'interconnettività è a putenza di trasfurmazioni di l'omu. u cervellu stessu.

Quandu hè accadutu, tutte e scumesse eranu off. L'assunzione hè chì in qualchì parte di stu continuum, quandu i soglii ghjusti di u parallelismu è a putenza di calculu sò stati superati, a mente stessa salta fora di u prucessu – emergendu cù una vindetta è ripieghendu in sè stessu, forchendu i sottoprocessi ancu più intelligenti chè ellu stessu. è cusì, ad infinitum. "A nostra invenzione finale" hà da esaminà u mondu, cù tutte e so carenze è inefficienze, è essendu infinitamente più intelligente di tutte e menti umane cumminate, risolverà abilmente tuttu.

Kurzweil dice chì questu puderia accade appena u 2029 è queste visioni tecno-utopiche quasi sempre viranu in una versione di u neo-marxismu basata nantu à u Cumunismu di Luxe Completamente Automatizatu .

A Singularità cum'è Rapture

L'aspettativa di l'IA super-intelligente chì ripiglià i nostri affari (tecno-utopismu) hà tutte e trappule di una religione. Aghju scrittu in origine in u Transhumanismu: A Nova Religione di a Tecnocrazia Venuta in risposta à un "pezzu di pensamentu" di u WSJ ( Aspittendu à a Fine di l'Umanità ) chì "Covid-19 hà evidenziatu a prumessa … di u transhumanismu è l'idea. di utilizà a tecnulugia per superà a malatia, l'anziane è a morte "

Ùn vi sbagliate micca, A Singularità hà tutte e trappule di un avvenimentu escatologicu. Si differenzia da a maiò parte di l'impulsi cristiani o monoteisti perchè simu noi chì nascemu i nostri propri Diu. Questa dinamica di usurpazione (Diu, o in questu casu a realità stessu), li dà un impulsu distintamente luciferianu .

U scenariu mancante hè chì l'AI ùn succederà mai.

Un scenariu chì questu articulu ùn intrattene micca (nè alcunu altru ombiccu fighjendu u futuru di l'AI) hè chì l'AI ùn hè micca veramente una cosa è crede chì l'IA senziente, auto-cunsciente pigliarà u mondu mai.

(In una nota laterale, diceraghju chì a maiò parte di e plebe diventanu servitori algoritmichi chì vivenu sottu creditu suciale è CBDC hè un altru prublema ).

A nostra striscia di manu nantu à cumu trattà cù questi custruzzioni di software super-intelligente si basa nantu à una sola, cocciata in supposizione chì ùn hè micca dimustrabile:

Hè l'idea chì a mente hè un epiphenomenu di a materia.

U principiu core di u Scientismu (avvisate chì ùn aghju micca dettu "scienza") hè chì a cuscenza, a sensibilità è a mente sò tutti i prudutti di a materia. Qualcosa chì succede quandu certi neuro-chimici slosh intornu à un cervellu è abbastanza sinapsi focu è filu per pruduce l'autocuscenza.

Questu hè l'equivalente mudernu di l'universu ptolemaicu (o geocentric): a crede chì a Terra era u centru di u cosmos.

Era a "scienza stabilita" di u so ghjornu, è a disputà vi farà brusgià à u palu.

A realità hè chì a materia hè un subproduttu di a cuscenza, a capa di basa di a realtà hè mentale, micca fisica. Questu hè statu sposatu per un bellu pezzu (l'Axioma Ermeticu "Tuttu hè mentale" chì hè statu cribbatu da testi assai più antichi), hè ancu u fundamentu di a meccanica quantistica.

"Consideru a cuscenza cum'è fundamentale. Consideru a materia cum'è derivata da a cuscenza. Ùn pudemu micca andà daretu à a cuscenza. Tuttu ciò chì parlemu, tuttu ciò chì cunsideremu esistenti, postula a cuscenza ".
– Max Planck

Vistu in questa luce, i nostri cervelli ùn emettenu micca a cuscenza cum'è un bollitore sbocca u vapore – sò receptori chì toccanu – è filtranu – u sustrato sottostante di a realtà. E mentri i fundamenti di a meccanica quantistica stabiliscenu a primazia di a cuscenza, pò esse veramente sperimentatu solu per via di a gnosi . Per quelli chì anu avutu quella sperienza, ùn ci hè dubbitu. Per tutti l'altri, ci hè solu New Age woo woo.

A menu chì l'AI hè avvicinata cù questa comprensione (è ùn aghju micca aspittà chì qualcunu hà mai pigliatu questu seriamente), allora pudemu assicurà in modu sicuru chì l'AI generalizata, senziente è autocunsciente, ùn succederà micca.

U tempu per un cuntrollu di a Realità

AI hè veramente l'iterazione attuale di u "caru volante". Qualcosa chì era usatu per simbulizà u futuru chì ùn hè mai accadutu. Almenu micca in a so forma stereotipata. Questu hè chì l'AI ùn hè micca veramente intelligenza artificiale – hè imitazione algoritmica.

Mentre pò esse assai assai bè à imitazione algoritmica di contabili, avucati, medichi, codificatori, copywriters è ancu grandi maestri di scacchi o campioni di Go, ùn hè ancu micca senziente, ùn hà micca capitu di ciò chì faci in realtà, ùn hà micca cuscenza. Pò esse ancu una tostatrice.

Hè per quessa chì a tortura di noi stessi cù ciò chì sò in u so core, in gran parte di custruzzioni teologichi nantu à i risultati à i quali attribuimu una inevitabilità sbagliata hè oltre l'illusione, hè unhinged .

L'errore s'aggrava quandu avemu da realizà a pulitica publica intornu à queste supposizioni.

Una dinamica assai simili si ghjoca in a narrativa di a "crisa climatica", induve simu stati gaslit cù custruzzioni ipotetiche da mudelli di computer chì sò attribuiti una inevitabilità chì esige chì tutta l'umanità si riordini intornu à elli. I pruposti "reconfigurations" o "recalibrations" di a sucietà (per utilizà eufemismi in stile WEF) sò invariabilmente in linea neo-marxista è tecnocratica.

A prima cosa hè prima: ritruvemu i nostri diritti avà.

L'ironia intornu à tutta questa introspezione intornu à cumu trattemu l'IA è quali diritti duveranu avè hè chì quì in l'era di Covid, avemu solu annullatu i nostri diritti umani basi. Per edittu.

Ùn li avemu micca ritruvatu dopu à a fine di a pandemia, postu chì a maiò parte di i mandati d'emergenza sò solu "in attesa". I nostri diritti umani civili è universali sò oghji pruvisorii, à l'ordine di diverse autorità sanitarie non elettu, burocrati, apparatchiks è qualunque lunacy esce da Davos.

Se l'avemu permessu, questu aggravarà solu cum'è "emergenze climatiche" si avvicinanu à l'orizzonte, è facemu a vera prospettiva di blocchi climatichi, è creditu suciale basatu annantu à CBDC, passaggi di salute è razionamentu di carbone.

Avemu abrogatu i nostri propri diritti in u presente, è poi circhemu nantu à quale dà à l'algoritmi di software inanimati di u futuru.

***

U mo libru nantu à questu tema hè statu in u back-burner, ma aghju ancu scrittu annantu à u transhumanisimu , l'IA è e so implicazioni per u CBDC , u razionamentu di carbone è u creditu suciale . Abbonate à a lista di mailing Bombthrower per uttene novi articuli (è puderaghju rinviviscia u libru è serializzallu quì). Pudete ancu seguità mi nantu à Nostr , Gettr , o Twitter . A mo lettera premium U Bitcoin Capitalist copre Bitcoin è cripto stocks.