A corsa di u Pentagonu per implementà armi attivate da AI ci ucciderà tutti

Scritta da Michael T. Klare via The Nation,

Mentre i sperti avvisanu annantu à u risicu di l'estinzione umana, u Dipartimentu di a Difesa avanza a piena velocità …

U dramma recente di a sala di riunioni annantu à a dirigenza di OpenAI – a startup tecnologica basata in San Francisco daretu à u prugramma di computer ChatGPT immensamente populari – hè stata descritta cum'è una lotta di putenza corporativa, un scontru di personalità guidata da l'ego, è una disputa strategica per a liberazione di più. varianti ChatGPT capaci. Era tuttu ciò è più, ma in u core rapprisintò una lotta inusualmente amara trà quelli ufficiali di a cumpagnia chì favurizanu a ricerca senza restrizioni nantu à e forme avanzate di intelligenza artificiale (AI) è quelli chì, temendu i risultati potenzialmente catastròfichi di tali sforzi, circavanu di rallentà u ritmu. di u sviluppu di l'IA .

Approssimativamente à u listessu tempu chì sta battaglia epocale era in corso, una lotta simile si sviluppava à e Nazioni Unite in New York è in l'uffizii di u guvernu in Washington, DC, per u sviluppu di sistemi d'armi autonomi – navi drone, aerei è tanki operati. da l'IA invece di l'omu. In questu cuncorsu, una larga coalizione di diplomatici è attivisti di i diritti umani anu cercatu di impone una prohibizione legalmente vincolante di tali dispositi – chjamati "robot assassini" da l'avversari – mentre chì i funzionari di i Dipartimenti di Statu è di Difesa anu argumentatu per u so rapidu sviluppu.

In i dui gruppi di disputi sò cuncurrenti opinioni nantu à a fiducia di e forme avanzate di AI, in particulare i "grandi mudelli di lingua" utilizati in sistemi di "AI generativa" cum'è ChatGPT. (I prugrammi cum'è questi sò chjamati "generativi" perchè ponu creà testu o imagine di qualità umana basati nantu à una analisi statistica di e dati cullati da Internet). Quelli chì favurizeghjanu u sviluppu è l'applicazione di l'AI avanzata – sia in u settore privatu sia in l'armata – pretendenu chì tali sistemi ponu esse sviluppati in modu sicuru; quelli chì mette in prudenza contr'à tali azzione, dicenu chì ùn pò micca, almenu micca senza salvaguardi sustanziali.

Senza entre in i specifichi di u dramma OpenAI – chì hè finitu, per u mumentu, u 21 di nuvembre cù l'appuntamentu di novi membri di u cunsigliu è u ritornu di l'intelligenza artificiale Sam Altman cum'è chief executive dopu esse licenziatu cinque ghjorni prima – hè evidenti chì a crisa hè stata scatenata da a preoccupazione trà i membri di u cunsigliu di amministrazione originale chì Altman è u so staffu vanu troppu in a direzzione di u sviluppu rapidu di l'IA, malgradu l'impegni di esse più prudenti.

Cum'è Altman è parechji di i so culleghi vedenu e cose, i tecnichi umani sò in u puntu di creà "AI generale" o "superintelligenza" – prugrammi AI cusì putenti chì ponu duplicà tutti l'aspettu di a cugnizione umana è u prugramma stessu, rendendu a prugrammazione umana inutile. Tali sistemi, si dice, puderanu curà a maiò parte di e malatie umane è fà altri miraculi benefizièvuli, ma ancu, i detrattori avvisanu, elimineranu a maiò parte di i travaglii umani è puderanu, eventualmente, sceglie di eliminà l'omu in tuttu.

"In quantu à i putenziali è i svantaghji, a superintelligenza serà più putente ch'è l'altri tecnulugii chì l'umanità hà avutu cunfrontu in u passatu", Altman è i so principali lieutenanti anu scrittu in maghju. "Pudemu avè un futuru dramaticamente più prusperu; ma avemu da gestisce u risicu per ghjunghje quì ".

Per Altman, cum'è per parechji altri in u campu di l'AI, quellu risicu hà una dimensione "esistenziale", chì implica u pussibule colapsu di a civilizazione umana – è, à l'estremu, l'estinzione umana. "Pensu chì si sta tecnulugia va sbagliata, pò andà abbastanza male", disse à una audizione di u Senatu u 16 di maghju. Altman hà ancu firmatu una lettera aperta liberata da u Centru per a Sicurezza AI u 30 di maghju chì avvirtenu di u pussibule "risicu d'estinzione da AI." A mitigazione di stu risicu, a lettera hà dichjaratu, "duverebbe esse una priorità globale à fiancu à altri risichi à scala suciali, cum'è e pandemie è a guerra nucleare".

Tuttavia, Altman è altri alti funzionari di l'AI crede chì a superintelligenza pò, è deve esse perseguita, sempre chì e salvaguardi adatti sò stallati in u caminu. "Credemu chì i benefici di l'arnesi chì avemu implementatu finu à avà superanu largamente i risichi, ma assicurà a so sicurità hè vitale per u nostru travagliu", disse à u sottucomitatu di u Senatu per a privacy, a tecnulugia è a lege.

Washington Promuove l'Usu "Responsabile" di l'AI in a Guerra

Un calculu simili in quantu à a sfruttamentu di l'IA avanzata guverna a prospettiva di l'alti funzionari in i Dipartimenti di Statu è di Difesa, chì sustenenu chì l'intelligenza artificiale pò è deve esse usata per uperà futuri sistemi d'arme – sempre chì hè fattu in un "rispunsevuli". "manera.

"Ùn pudemu micca predichendu cumu e tecnulugie AI evolveranu o ciò chì puderanu esse capaci di fà in un annu o cinque anni", Amb. Bonnie Jenkins, sottu secretariu di statu per u cuntrollu di l'arme è a non-proliferazione, hà dichjaratu in una presentazione di l'ONU u 13 di nuvembre. Tuttavia, hà nutatu, i Stati Uniti anu decisu di "mette in piazza e pulitiche necessarie è di custruisce e capacità tecniche per attivà u sviluppu è l'usu rispunsevule [di l'IA da l'armata], senza importa l'avanzamenti tecnologichi".

Jenkins era à l'ONU quellu ghjornu per svelà una "Dichjarazione Politica nantu à l'Usu Militare Responsabile di l'Intelligenza Artificiale è di l'Autonomia", una chjama inspirata da i Stati Uniti per restrizioni volontarie nantu à u sviluppu è u dispiegamentu di l'arme autonome attivate da AI. A dichjarazione dichjara , tra l'altri cose, chì "I Stati anu da assicurà chì a sicurezza, a sicurità è l'efficacità di e capacità militari di l'IA sò sottumessi à teste adatte è rigurose", è chì "I Stati anu da implementà e salvaguardi adatti per mitigà i risichi di fallimenti in l'IA militare. capacità, cum'è a capacità di … disattivà [e] sistemi implementati, quandu tali sistemi dimustranu un cumpurtamentu imprevisu ".

Nisuna di questu, però, custituisce una obbligazione legalmente vincolante di i stati chì firmanu a dichjarazione; piuttostu, implica solu una prumessa di rispittà un inseme di e migliori pratiche, senza esigenza di dimustrà u rispettu di queste misure o risicu di punizioni s'ellu si trova in incunformità.

Ancu s'è parechje decine di paesi – a maiò parte di alleati stretti di i Stati Uniti – anu firmatu a dichjarazione, assai altre nazioni, cumprese l'Austria, u Brasile, u Cile, u Messicu, a Nova Zelanda è a Spagna, insistenu chì u rispettu vuluntariu di un inseme di standard cuncepiti da i Stati Uniti hè insufficiente per pruteggiri contr'à i periculi presentati da u dispiegamentu di l'armi attivati ​​da AI. Invece, cercanu un strumentu legalmente vincolante chì stabilisce limiti stretti à l'usu di tali sistemi o chì li pruibisce in tuttu. Per questi attori, i risichi di tali armi "andà in rogue", è cunducendu attacchi micca autorizati à i civili, hè simplice troppu grande per permette u so usu in cumbattimentu.

"L'umanità hè per attraversà una soglia maiò di impurtanza prufonda quandu a decisione nantu à a vita è a morte ùn hè più presa da l'omu, ma fatta nantu à basa di algoritmi preprogrammati. Questu suscita prublemi etici fundamentali ", Amb. Alexander Kmentt, u principale negoziatore di l'Austria per u disarmamentu, u cuntrollu di l'armi è a non-proliferazione, hà dettu à The Nation .

Per anni, l'Austria è una mansa di paesi di l'America Latina anu cercatu di impone una pruibizione di tali armi sottu à l'egida di a Cunvenzione nantu à Certe Armi Convenzionali (CCW), un trattatu di l'ONU di u 1980 chì hà per scopu di limità o pruibisce l'armi ritenuti chì causanu sofferenze innecessarii. à i combattenti o per affettà i civili indiscriminatamente. Questi paesi, inseme cù u Cumitatu Internaziunale di a Croce Rossa è altre urganisazioni non governamentali, pretendenu chì l'armi cumplettamente autonomi entranu in questa categuria, postu chì saranu incapaci di distinguishà trà i combattenti è i civili in u focu di battaglia, cum'è u dirittu internaziunale. . Ancu s'è a maiuranza di i partiti à a CCW parenu sparte sta visione è favurizeghja cuntrolli duru nantu à l'armi autonomi, e decisioni di i stati firmatarii sò fatti per cunsensu è una manciata di paesi, cumpresu Israele, Russia è i Stati Uniti, anu utilizatu u so putere di veto. per bluccà l'adopzione di tali misure . Questu, à u turnu, hà purtatu i difensori di a regulazione à vultà à l'Assemblea Generale di l'ONU – induve e decisioni sò prese da u votu di a maiurità invece di cunsensu – cum'è una arena per u futuru prugressu nantu à u prublema.

U 12 d'ottobre, per a prima volta, u Primu Cumitatu di l'Assemblea Generale – rispunsevuli di a pace, a sicurità internaziunale è u disarmamentu – hà affrontatu i periculi di l'armi autonomi, vutendu à una larga maiuranza – 164 à 5 (cù 8 astensioni) – Instruisce u secretariu generale per fà un studiu cumpletu di a materia. U studiu, da esse cumpletu in tempu per a prossima sessione di l'Assemblea Generale (in u vaghjimu di u 2024), hè di esaminà e "sfide è preoccupazioni" chì tali armi suscitanu "da prospettive umanitarii, legali, di sicurezza, tecnologiche è etiche è nantu à u u rolu di l'omu in l'usu di a forza ".

Ancu s'è a misura di l'ONU ùn impone alcuna limitazione vincolante à u sviluppu o à l'usu di sistemi d'armi autonomi, pone e basi per l'adopzione futura di tali misure, identificendu una serie di preoccupazioni annantu à a so implementazione è insistendu chì u secretariu generale, quandu conduce u rapportu necessariu, investigate quelli periculi in dettagliu, ancu cerchendu l'opinioni è l'expertise di i scientisti è l'urganisazioni di a sucità civile.

"L'obiettivu hè ovviamente di avanzà in a regulazione di i sistemi d'arme autonomi", hà dettu l'ambasciadore Kmentt. "A risoluzione rende chjaru chì a maiò parte di i stati volenu affruntà stu prublema cù urgenza".

Ciò chì succederà in a riunione di l'Assemblea Generale di l'annu prossimu ùn pò micca esse preditu, ma se Kmentt hà ragiò, pudemu aspittà un dibattitu internaziunale assai più animatu annantu à l'opportunità di permette u dispiegamentu di sistemi d'armi attivati ​​da AI, sì o micca i participanti anu accunsentutu o micca. misure vuluntarii chì sò sustinuti da i Stati Uniti.

À u Pentagonu, hè Full Speed ​​Ahead

Per i funzionari di u Dipartimentu di a Difesa, però, a materia hè largamente risolta: i Stati Uniti prucederanu cù u sviluppu rapidu è l'implementazione di numerosi tipi di sistemi d'armi autonomi attivati ​​da AI. Questu hè statu fattu evidenti u 28 d'aostu, cù l'annunziu di l'iniziativa "Replicator" da u Subsecretariu di Difesa Kathleen Hicks.

Nutendu chì i Stati Uniti anu da preparà per una pussibili guerra cù l'armata chinesa, l'Armata di Liberazione Populare (PLA), in un futuru pocu distanti, è chì e forze americane ùn ponu micca currisponde à l'inventari di l'armi di l'PLA nantu à una basa articulu per articulu. (tank-for-tank, ship-for-ship, etc.), Hicks hà sustinutu chì i Stati Uniti anu da esse preparatu per superà a superiorità di a Cina in e misure cunvinziunali di u putere – a so "massa" militare – sparghjendu "multitudine di millaie" d'armi autonomi. .

"Per stà avanti, andemu à creà un novu statu di l'arte – cum'è l'America hà prima – sfruttendu sistemi autonomi attritable [vale à dì, dispunibile] in tutti i duminii", disse à i dirigenti corporativi in ​​una riunione di l'Associazione Industriale di Difesa Naziunale. in Washington. "Contrasteremu a massa di l'PLA cù a nostra massa, ma a nostra serà più difficiuli di pianificà, più difficili di colpi, più difficili di batte".

In un discorsu di seguitu , pronunciatu u 6 di settembre, Hicks hà furnitu (leggermente) più dettagli nantu à ciò chì hà chjamatu sistemi d'armi autonomi attritable (ADA2) per tutti i domini. "Imaginate baccelli distribuiti di sistemi ADA2 autopropulsati a galla … pieni di sensori in abbondanza …. Immaginate flotte di sistemi ADA2 in terra chì furniscenu supportu logisticu novu, scouting avanti per mantene e truppe sicure …. Immaginate bande di sistemi ADA2 [aerei], chì volenu à ogni tipu d'altitudine, facenu una serie di missioni, custruendu nantu à ciò chì avemu vistu in Ucraina ".

Sicondu a guida ufficiale, Hicks hà assicuratu à u so publicu chì tutti questi sistemi "saranu sviluppati è messi in campo in cunfurmità cù u nostru approcciu rispunsevule è eticu à l'AI è i sistemi autonomi". Ma eccettu per quellu cennu in una sola linea à a sicurità, tutta l'enfasi in i so discorsi era nantu à smashing i colli di bottiglia burocratica per accelerà u sviluppu è u dispiegamentu di l'armi autonomi. "Se [questi colli di bottiglia] ùn sò micca affruntati", hà dichjaratu u 28 d'Aostu, "i nostri ingranaggi macineranu ancu troppu lentamente, è i nostri mutori di l'innuvazione ùn anu micca sempre funzionatu à a velocità è a scala chì avemu bisognu. È questu, ùn pudemu micca aspittà ".

È cusì, i puteri chì sò – in Silicon Valley è in Washington – anu pigliatu a decisione di prucede cù u sviluppu è l'utilizazione di versioni ancu più avanzate di l'intelligenza artificiale malgradu l'avvertimenti da i scientisti è i diplomatichi chì a sicurità di questi prugrammi ùn pò esse assicurata è chì u so abusu puderia avè cunsiquenzi catastròfichi. A menu chì un sforzu più grande hè fattu per rallentà questi sforzi, pudemu scopre ciò chì queste cunsequenze puderanu esse implicate.