L’IA pigliarà u mondu?

Scrittu da James Rickards via Daily Reckoning ,

Comu sapete, l'intelligenza artificiale (AI) hè in furore in questi ghjorni. Da una perspettiva di u mercatu, hè certamente pigliatu nantu à a dinamica di a bolla.

È crede chì u principale produttore di chip AI Nvidia hè per esse martellatu, chì puderia innescà un crash di u mercatu assai più largu à principiu di dumane dopu meziornu, pocu dopu à 16 ore.

Ma da una perspettiva più larga di l'IA, a nutizia hè piena di storie nantu à cumu e macchine cù una grande putenza di calculu è una velocità di trasfurmazione cecante , datu l'accessu à miliardi di libri è documenti è a capacità di insignà sè stessu, sò pronti à piglià u mondu.

Hè vera ? Aghju studiatu l'AI è u so putenziale per anni, cusì aghju una cunniscenza più profonda di l'AI cà a testa media parlante.

Aghju veramente passatu u tempu à visità cù u terzu supercomputer non-guvernamentu più veloce di u mondu (l'urdinatore HiPerGator AI à l'Università di Florida) cum'è parte di un prughjettu per applicà superintelligenza generalizata è AI à i travaglii di sicurezza naziunale.

Allora quantu avanzata hè l'IA? Quantu hè vicinu à avvicinà una parità grossa cù l'intelligenza umana? È chì periculi pone per l'umanità ?

Pudemu solu tirà u plug – per avà almenu

I sperimentatori avà imaginanu e macchine chì piglianu una vita propria è attaccanu l'omu è a civilizazione. Ma hè impurtante di ricurdà chì, se a macchina va in furia, pudete solu tirà u plug.

L'apologeti per a capacità di l'AI dicenu chì tirà u plug ùn funzionerà micca perchè l'IA anticiperà quella strategia è "esportarà" sè stessu à un'altra macchina in un scenariu catch-me-if-you-can induve disattivà un locu ùn impedisce micca u codice. è algoritmi da spuntà in altrò è cuntinueghjanu à attaccà.

Forse. Ma ci sò ogni tipu di prublemi logistichi cù questu, cumpresa a dispunibilità di abbastanza macchine cù a putenza di trasfurmazioni necessaria, u fattu chì e macchine alternate sò prubabilmente circundate da firewalls è fossu digitale è una mansa di cunfigurazione è interoperabilità.

Allora per avà, pudete solu tirà u plug. In fatti, ci sò una quantità di salvaguardi pruposti per limità u dannu potenziale di l'IA mentre sfruttendu i so enormi benefici.

Questu ùn hè micca un articulu tecnicu, ma questi salvaguardi includenu a trasparenza (in modu chì i terzi ponu identificà i difetti), a sorveglianza, una forma debilitata di furmazione avversaria (per chì a macchina pò risolve i prublemi senza trama contru à noi in u so tempu liberu), appruvazioni- mudificazione basata (a macchina hà da "dumandà u permessu" prima di attivà l'apprendimentu di a macchina autònuma), u modellu di ricumpensa recursiva (a macchina si move solu in certe direzzione induve riceve un "pat in a testa" da l'omu) è altri strumenti simili.

Di sicuru, nimu di sti salvaguardi ùn funziona se u putere daretu à l'IA hè malignu è vole veramente distrughje l'umanità . Questu seria cum'è mette l'armi atomichi in e mani di un Adolf Hitler disperatu. Sapemu ciò chì saria accadutu dopu.

James Bond cù AI

A suluzione in questu casu seria più pulitica, forensica è di difesa orientata. A riunione di l'intelligenza puderia ghjucà un rolu enormu. Di sicuru, chì si evoluzione rapidamente in una guerra di intelligenza di macchina versus macchina di cullizzioni è inganni.

Imagine James Bond cun un iper-computer invece di un Walther PPK. A minaccia più immediata di l'IA hè menu seria, ma ancu disturbante, soprattuttu per l'investituri.

L'investituri anu da esse attenti à s'appoghjanu à i sistemi GPT per cunsiglii finanziarii, malgradu u so enormu putere di trasfurmazioni. L'output ùn hè mai megliu cà l'inputs è l'inputs di u mercatu sò chjappi di mudelli cattivi, ipotesi falsi, records di previsioni poveri è preghjudizii.

Garbage in, basura fora.

L'IA hè digià programata cù l'ideulugia svegliata, per esempiu. Probabilmente vi ricordate di u ridiculu generatore d'imaghjini sustinutu da l'AI Gemini di Google chì raffigurava Vichinghi Neri, papi femminili è altre imagine assurde. Pudete imagine u futuru distopicu chì una superintelligenza svegliata puderia creà.

A Woke 1984

Probabilmente avete familiarizatu cù u classicu rumanzu distopicu di George Orwell , Nineteen Eighty-Four ; (Hè spessu publicatu cum'è 1984) . Hè statu scrittu in u 1948; u tìtulu vene da l'inversione di l'ultimi dui cifre in u 1948.

Orwell hà criatu un vocabulariu originale per u so libru , assai di quale hè in cumunu, sè sardonicu, usu oghje. Termini cum'è Thinking Police, Big Brother, doublethink, Newsspeak è u bulu di memoria venenu tutti da Nineteen Eighty-Four .

Orwell hà pensatu cum'è un avvertimentu nantu à cumu certi paesi puderanu evoluzione dopu à a Siconda Guerra Munniali è u principiu di a Guerra Fredda. Era certamente preoccupatu di u stalinismu, ma i so avvirtimenti s'applicanu ancu à e demucrazie occidentali.

Quandu l'annu calendariu 1984 hè ghjuntu è si n'andò, parechji respiravanu un suspiru di sollievu chì a prufezia di Orwell ùn era micca rializatu. Ma quellu suspiru di sollievu era prematuru. A sucietà di l'incubo di Orwell hè quì oghje in a forma di Cina Comunista.

1984 Veni in Cina

Cina hà a maiò parte di l'apparatu di e società totalitarie descritte in u libru di Orwell. Cina travaglia dura nantu à l'IA mentre usa software di ricunniscenza faciale è surviglianza digitale omnipresente per seguità i so citadini. Internet hè censuratu è monitoratu. A vera vita pensava chì a polizia vi arrestarà per esprime opinioni opposti à u guvernu o à e so pulitiche.

Mentre i peggiori eccessi di a Cina ùn saranu micca in i Stati Uniti o ciò chì passa per l'Occidenti in questi ghjorni, l'aspetti menu estremi di u statu di surviglianza di a Cina puderianu.

E mentre ùn puderebbe micca esse arrestatu per esprime opinioni impopulari o sfida à i dogmi prevalenti (almenu micca ancu), pudete affruntà altre sanzioni. Pudete ancu perde u vostru travagliu è truvà quasi impussibule di truvà un altru. Pensate à annullà a cultura.

Ma ùn hè micca solu a Cina. Pavel Durov, u fundatore di l'app di messageria Telegram, hè statu appena arrestatu in un aeroportu in Francia. Hè assai pussibule chì u guvernu americanu hà avutu un rolu in l'arrestu, cù l'UE.

L'autorità dicenu chì Telegram prumove a pornografia infantile è altri atti odiosi. Ma in realità, Durov hè statu arrestatu perchè ùn era micca accoltu à e dumande di u guvernu occidentale chì censurava certe informazioni è punti di vista. Inoltre, perchè ùn furnisce micca à l'autorità infurmazioni nantu à i pruduttori di quellu cuntenutu (Telegram offre opzioni di criptografia di pruduttori).

Hè u veru mutivu chì Durov hè statu arrestatu. Elon Musk hè u prossimu?

"Mostrami l'omu è vi mustraraghju u crimine"

Quì in i Stati Uniti, parechji participanti di i media suciali cunservatori anu avutu i so cunti chjusi o sospesi, micca per minacce o vulgarità o per prumove a pornografia infantile, ma per a critica di i punti di vista "progressivi" (ancu critichi cù certi bordi).

Intantu, quelli chì anu veduti prugressivi ponu dì quasi tuttu nantu à e social media, cumpresu l'appruvazioni implicita di a viulenza. Ma ùn succede nunda.

U prublema hè chì a tendenza si move assai rapidamente in questa direzzione è hè difficiule di piantà. È a tecnulugia di surviglianza sofisticata per monitorà i citadini hè digià in piazza …

Per esempiu, e camere cù l'ultime tecnulugia di surviglianza ponu scopre è currisponde à milioni di facce in tempu reale cù una precisione di più di 99%. Sò presentati cum'è strumenti anti-terrorismu è anti-crimine, chì sò certamente.

Ma cum'è u spietatu capu di a polizia secreta di Stalin, Lavrentiy Beria, hà dettu: "Mostrami l'omu è vi mustraraghju u crimine". Hè faciule vede chì u putere hè abusatu per indirizzà i citadini di ogni ghjornu.

(A propositu, Beria avaristi ultimamente dimustrarà u so propiu puntu, cum'è dopu hè statu arrestatu è eseguitu per tradimentu.)

Circundendu à l'AI, u prublema hè una volta chì i cattivi attori cumincianu à populate a literatura cù informazioni ingannevoli è i preghjudizii di u sviluppatore infiltranu u codice, hè chjaru chì l'AI pò esse un strumentu di tirannia.

In tuttu, l'AI hè certamente qualcosa da tene un ochju, è duvemu esse dumandà dumande impurtanti. Ma ùn duvemu micca preoccupà ch'ella piglia u mondu prestu.

Duvemu invece preoccupari di diventà cum'è a Cina Comunista.