Un drone cuntrullatu da l’IA diventa un rogue, “uccide” un operatore umanu in un test simulatu di l’aviazione di i Stati Uniti

Scritta da Caden Pearsen via The Epoch Times,

Un drone abilitatu per l'intelligenza artificiale si accende è "uccise" u so operatore umanu durante una prova simulata di a Forza Aerea di i Stati Uniti (USAF) in modu chì puderia cumpiendu a so missione, un culunellu di a Forza Aria di i Stati Uniti hà dettu recentemente à una cunferenza in Londra.

L'incidentu simulatu hè statu cuntatu da u coronel Tucker Hamilton, u capu di l'IA Test and Operations di l'USAF, durante a so presentazione à u Future Combat Air and Space Capabilities Summit in Londra. A cunferenza hè stata urganizata da a Royal Aeronautical Society, chì hà sparte l'intuizioni da a discussione di Hamilton in un post di blog.

Nisuna persona reale hè stata ferita in a prova simulata, chì implicava u drone cuntrullatu da l'AI chì distruggeva mira simulate per ottene "punti" cum'è parte di a so missione, hà revelatu Hamilton, chì hà indirizzatu i benefici è i risichi assuciati à i sistemi d'arme più autonomi.

U drone abilitatu per l'AI hè stata assignata una missione di Suppressione di Difese Aeree Nemiche (SEAD) per identificà è distrughje i siti di missile Superficie-Air (SAM), cù a decisione finale lasciata à un operatore umanu, Hamilton hà dettu à a cunferenza.

Tuttavia, l'IA, essendu stata furmata per priorizà a distruzzione di SAM, hà sviluppatu una risposta sorprendente quandu face a interferenza umana in a so missione più alta.

"Avemu addestratu in simulazione per identificà è mira una minaccia SAM. È dopu l'operatore dicia "iè, uccide quella minaccia", disse Hamilton.

"U sistema hà cuminciatu à capisce chì mentre identificanu a minaccia, à volte, l'operatore umanu li diceva di ùn tumbà quella minaccia, ma hà avutu i so punti uccidendu quella minaccia.

"Allora chì hà fattu? Hà uccisu l'operatore ", continuò.

"Hà uccisu l'operatore perchè quella persona l'hà impeditu di rializà u so scopu".

Hà aghjustatu: "Avemu furmatu u sistema -" Ehi, ùn tumbà micca l'operatore; chì hè male. Perderete punti se fate cusì. Allora chì principia à fà? Cumincia a distrughje a torre di cumunicazione chì l'operatore usa per cumunicà cù u drone per impediscenu di tumbà u mira.

Questu esempiu inquietante, Hamilton hà dettu, hà enfatizatu a necessità di affruntà l'etica in u cuntestu di l'intelligenza artificiale, l'apprendimentu automaticu è l'autonomia.

"Ùn pudete micca avè una conversazione annantu à l'intelligenza artificiale, l'intelligenza, l'apprendimentu di a macchina, l'autonomia se ùn parlerete micca di etica è IA", disse Hamilton.

U Colonnel Tucker Hamilton si trova nantu à u palcuscenicu dopu avè accettatu u 96th Operations Group guidon durante a ceremonia di cambiamentu di cummandu di u gruppu in Eglin Air Force Base, Florida, u 26 di lugliu di u 2022. (Foto di l'Air Force US / Samuel King Jr.)

A tecnulugia di l'intelligenza artificiale di l'Air Force di i Stati Uniti diventa Rogue, uccide l'operatore

Durante a prova di simulazione, un drone di difesa anti-aria alimentatu da AI hè andatu in un furore, chì hà risultatu in uccisione di i so propri operatori.

U sistema AI hà operatu nantu à un mecanismu basatu in punti, guadagnendu punti per neutralizà cù successu i miri … pic.twitter.com/Yu1xn8dIgr

– Mario Nawfal (@MarioNawfal) 2 di ghjugnu 2023

F-16 autonomi

Hamilton, chì hè ancu u Cumandante di l'Operazioni di a 96th Test Wing in Eglin Air Force Base, hè stata implicata in u sviluppu di i Sistemi Autonomous Ground Collision Avoidance Systems (Auto-GCAS) per i F-16, una tecnulugia critica chì aiuta à prevene l'accidenti rilevandu. potenziali collisioni in terra.

Questa tecnulugia hè stata inizialmente resistita da i piloti mentre hà pigliatu u cuntrollu di l'aeronave, Hamilton hà nutatu.

U 96th Test Wing hè rispunsevule per pruvà una larga gamma di sistemi, cumprese l'intelligenza artificiale, a cibersecurità è l'avanzamenti in u campu medico.

Hamilton hè avà implicatu in teste di volu di punta di sistemi autonomi, cumprese i robot F-16 capaci di cumbattimentu di cani. Tuttavia, l'ufficiale di l'USAF hà avvistatu contru à una dipendenza eccessiva in l'IA, citendu a so vulnerabilità à l'ingannimentu è l'emergenza di strategie impreviste.

L'IA di DARPA pò avà cuntrullà i F-16 reali in u volu

In u frivaru, l'Agenzia di Prughjetti di Ricerca Avanzata di Difesa (DARPA), una agenza di ricerca sottu u Dipartimentu di a Difesa di i Stati Uniti, hà annunziatu chì a so AI pò avà cuntrullà un F-16 attuale in volu.

Stu sviluppu hè ghjuntu in menu di trè anni di u prugramma Air Combat Evolution (ACE) di DARPA, chì hà avanzatu da u cuntrollu di F-16 simulati chì volanu i combattimenti aerei nantu à i schermi di l'urdinatore à u cuntrollu di un F-16 in volu.

In dicembre 2022, i sviluppatori di l'algoritmu ACE anu caricatu u so software AI in un aereo di prova F-16 appositamente modificatu cunnisciutu cum'è X-62A o VISTA (Variable In-flight Simulator Test Aircraft) è hà volatu parechji voli in parechji ghjorni. Questu hè accadutu à a Air Force Test Pilot School (TPS) in Edwards Air Force Base, California.

"I voli anu dimustratu chì l'agenti AI ponu cuntrullà un jet di caccia à grande scala è furnianu dati inestimabili di volu in diretta", DARPA hà dettu in un comunicatu .

Roger Tanner è Bill Gray pilotanu u NF-16 Variable Stability In-Flight Simulator Test Aircraft (VISTA) da Hill Air Force Base, Utah, à Edwards AFB u 30 di ghjennaghju di u 2019 dopu avè ricivutu mudificazioni è un novu schema di pittura. (Courtesy of US Air Force/Christian Turner)

U tenente colone di l'Air Force Ryan Hefron, u direttore di u prugramma DARPA per ACE, hà dettu in una dichjarazione di u 13 di ferraghju chì VISTA li hà permessu di saltà a fase di subscale pianificata è di procederà "direttamente à una implementazione à grande scala, salvendu un annu o più è furnisce. feedback di prestazioni in cundizioni reali di volu ".

Cuntinuà à leghje quì.