L’IA aumenta u risicu di l’annihilazione nucleare

Scrittu da John Mac Ghlionn via The Epoch Times,

OpenAI, a cumpagnia rispunsevuli di ChatGPT, hà annunziatu recentemente a creazione di una nova squadra cù un compitu assai specificu: impedisce chì i mudelli AI ponu "risichi catastròfichi" per l'umanità.

A preparazione, a squadra intitulata apttamente, serà supervisata da Aleksander Madry , un espertu di l'apprendimentu di macchina è un ricercatore affiliatu à l'Istitutu di Tecnulugia di Massachusetts. U Signore Madry è a so squadra si focalizeghjanu nantu à diverse minacce, soprattuttu quelle di a varietà "chimica, biologica, radiologica è nucleare". Puderanu sembranu minacce imbusche, ma ùn deve micca veramente.

Cum'è e Nazioni Unite anu infurmatu prima di questu annu , u risicu di i paesi chì si vultanu à l'armi nucleari hè à u so puntu più altu da a Guerra Fredda. Stu rapportu hè statu publicatu prima di l'avvenimenti orribili chì sò accaduti in Israele u 7 d'ottobre. Un alleatu vicinu di Vladimir Putin, Nikolai Patrushev, hà suggeritu pocu tempu chì e pulitiche "distruttive" di "i Stati Uniti è i so alliati anu aumentatu u risicu chì u nucleare, arme chimiche o biologiche seranu aduprate ", secondu Reuters .

Unisci l'AI cù l'armi sopra, in particulare l'armi nucleari, avvisa Zachary Kallenborn, un affiliatu di ricerca cù a Divisione di Armi Unconventional è Tecnulugia di u Consorziu Naziunale per u Studiu di u Terrorismu è Risposte à u Terrorismu (START), è avete una ricetta per un disastru senza mitigazione. .

U sgiò Kallenborn hà sonatu l'alarma , ripetutamente è senza scusa, annantu à l'alianza profana trà l'IA è l'armi nucleari. Nisunu per sminuisce e parolle, u ricercatore hà avvistatu: "Se l'intelligenza artificiale cuntrullava l'armi nucleari, tutti pudemu esse morti".

Ùn hè micca esageratu. Esattamente 40 anni fà, cum'è u sgiò Kallenborn, un cumpagnu di pulitica in a Schar School of Policy and Government, hà descrittu, Stanislav Petrov, un tenente coronellu di e Forze di Difesa Aerea Sovietica, era occupatu à monitorà i sistemi d'avvertimentu nucleari di u so paese. Di colpu, sicondu u Signore Kallenborn, "l'urdinatore hà cunclusu cù a più alta fiducia chì i Stati Uniti avianu lanciatu una guerra nucleare". U sgiò Petrov, però, era scetticu, in gran parte perchè ùn hà micca fiducia in u sistema di deteczione attuale. Inoltre, u sistema di radar mancava evidenza corroborative.

Fortunatamente, u sgiò Petrov hà cunclusu chì u messagiu era un falsu pusitivu è hà optatu per piglià l'azzione. Spoiler alert: L'urdinatore era completamente sbagliatu, è u Russu era cumplettamente ghjustu.

"Ma", hà dettu u sgiò Kallenborn, un cunsultore di sicurità naziunale, "se Petrov era stata una macchina, programata per risponde automaticamente quandu a fiducia era abbastanza alta, quellu errore avissi iniziatu una guerra nucleare".

Inoltre, hà suggeritu, ùn ci hè assolutamente "nessuna garanzia" chì certi paesi "ùn metteranu micca l'IA in carica di i lanciamenti nucleari", perchè a lege internaziunale "ùn specifica micca chì ci deve esse sempre un "Petrov" chì guardia u buttone".

"Hè qualcosa chì duverebbe cambià, prestu", disse u sgiò Kallenborn.

Ellu m'hà dettu chì l'IA hà digià rimodellatu u futuru di a guerra.

L'intelligenza artificiale, secondu u sgiò Kallenborn, "pò aiutà i militari rapidamente è più efficaci à processà enormi quantità di dati generati da u campu di battaglia; rende a basa industriale di difesa più efficace è efficiente in a pruduzzione d'armi à scala, è pò esse capace di migliurà a destinazione di l'armi è a decisione ".

Pigliate a Cina, forse a più grande minaccia per i Stati Uniti, per esempiu, è e so applicazioni militari alimentate da AI. Sicondu un rapportu di l'Università di Georgetown, in un futuru micca cusì distante, Pechino pò aduprà AI micca solu per aiutà in tempu di guerra, ma per surveglià in realtà tutti l'atti di guerra.

Questu deve cuncerna tutti i lettori.

"Se u lanciamentu di l'armi nucleari hè delegatu à un sistema autònumu", u Signore Kallenborn teme chì "puderanu esse lanciati in errore, purtendu à una guerra nucleare accidentale".

"Agghiuncennu AI in u cumandamentu è u cuntrollu nucleari", disse, "pò ancu purtà à infurmazioni ingannevoli o cattivi".

Hà ragione. L'IA dipende da e dati, è qualchì volta i dati sò assai imprecisi .

Ancu s'ellu ùn ci hè micca un paese particulari chì mantene u Signore Kallenborn svegliu di notte, hè preoccupatu da "a pussibilità di u presidente russu Vladimir Putin aduprà armi nucleari chjuche in u cunflittu in Ucraina". Ancu l'usu nucleare limitatu "saria abbastanza male à longu andà" perchè "u tabù nucleare" saria eliminatu, cusì "incuraghjendu altri stati à esse più cavalieri cù l'usu di l'armi nucleari".

"L'armi nucleari", secondu u Signore Kallenborn, sò a "più grande minaccia per l'umanità".

"Sò l'unica arma esistente chì pò causà abbastanza dannu per pruvucà veramente l'estinzione umana", disse.

Cumu l'ammentatu prima, scaccià l'AI in u mischju nucleare pare aumentà u risicu di l'estinzione di massa. L'avvirtimenti di u sgiò Kallenborn, un ricercatore ben rispettatu chì hà dedicatu anni di a so vita à a ricerca di l'evoluzione di a guerra nucleare, portanu una grande credibilità.