U Periculu Claru è Presente di l’IA

Scrittu da Bruce Abramson via RealClear Wire ,

L'intelligenza artificiale minaccia di cunquistà l'umanità ? Nta l'ultimi mesi, a quistione hè saltata da e pagine di i rumanzi di fantascienza à l'attenzione di i media è di u guvernu. Ùn hè chjaru, però, quanti di i discutenti capiscenu l'implicazione di quellu saltu.

In a mente di u publicu, a minaccia sia si focalizeghja strettamente nantu à a cunfusione inerente di falsi profondi sempre megliu è e so cunsequenze per u mercatu di u travagliu, o indica in direzzione chì faria un grande filmu: E se i sistemi AI decidenu chì sò superiori à l'omu, piglià u cuntrollu, è mette in pratica i piani di genocida ? Questu ultimu focusu hè ovviamente u più convincente di i dui.

Mentre un tali incubo pò esse pussibule in teoria, hè remota. U periculu chjaru è attuale chì l'AI pone ci distruggerà assai prima chì i nostri servitori automatizati ribelli si dichjaranu i nostri signori sterminatori. Dui parolle critichi sintetizzanu a minaccia: valori è autorità.

Pigliate i valori prima. Per tutta a so sofisticazione è u misteru, i sistemi AI sò basicamente detectori di mudelli. Quasi tuttu u cumpurtamentu umanu – è una parte ancu più grande di l'occurrenze non umane – segue mudelli prevedibili. Meccanismi di registrazione sempre più sofisticati furniscenu sistemi AI cun un corpu crescente di dati passati in quale truvà mudelli. Algoritmi sempre più sofisticati furniscenu sistemi AI cù capacità di migliurà rapidamente per truvà i mudelli in quelli dati.

L'IA diventa interessante, però, solu quandu prughjetta quelli mudelli in u futuru. Pochi curanu, per esempiu, chì l'AI pò truvà mudelli in Shakespeare, ancu s'è parechji seranu affascinati quandu AI cumpone una "tragedia shakespeariana" ambientata in a Guerra Civile Americana utilizendu lingua, stile, idiom è cumpetenze prima cunsiderate uniche à u Bard.

A prughjezzione è a prediczione sò induve i valori entranu in ghjocu. Ogni decisione incarna una certa valutazione di valori. In a maiò parte di i paràmetri di cuntrollu meccanizatu attualmente sottumessi à a guida di l'AI, i valori basi sò cusì cuntroversi chì scappanu di l'avvisu. Poche persone (oltre forse i bombardieri suicidi o i produttori di munizioni) discuterebbero con le proposizioni che è "cattivo" per i motori a surriscaldarsi, i boilers per esplodere, o i veiculi per crash. Ùn ci hè nunda di "naturale" in tali credenze – un meteoru hè indifferente quant'è s'ellu si precipita in u spaziu o si sbatte in un pianeta – ma sò cusì intrinsecamente umani chì trascendenu e differenze di cultura è di tempu.

Un tali cunsensu quasi universale svanisce, però, quandu l'omu entra in u ritrattu. Cunsiderate Dylan Mulvaney, l'influenzatore di e social media transgender chì recentemente hà aiutatu à rinfurzà Bud Light. (Bè, sorta.) Sottu à u sistema di credenza cuntimpuraniu, Mulvaney hè una donna chì hà avutu a disgrazia di esse natu in un corpu maschile. Sutta ogni altru sistema di credenza chì hà mai esistitu, Mulvaney hè un omu chì hà sceltu di campà cum'è donna.

Cumu l'IA deve riferite à Mulvaney – cum'è "ellu" o "ella?" A risposta mostra una preferenza per un settore di credenze è valori nantu à l'altru. Cumu puderia l'AI hà derivatu quella preferenza?

Dui camini sò pussibuli: puderia esse furmatu nantu à volumi copiosi di pensamentu eticu tiratu da i millaie di sistemi di credenze chì sò ghjunti in a storia mundiale è cunclusu chì un sistema specificu hè u megliu – o puderia avè aduttatu e preferenze di valore di u so umanu. diseggiani è furmatori.

Forse un ghjornu, qualchì sistema di IA pigliarà l'antica strada . Oghje, nimu dubita chì l'inclinazione sveglia di i sistemi AI cum'è ChatGPT riflette l'inclinazione sveglia di i prufessiunali tecnulugichi chì anu sviluppatu. Ciò chì significa per a maiò parte di l'utilizatori hè chì l'IA nantu à quale si puderanu prestu prestu per fà ghjudizii è raccomandazioni carichi di valore ùn sparte micca i so propri valori.

Ddu ricunniscenza porta l'autorità in ghjocu. U veru periculu imminente di l'AI nasce da a putenziale incorporazione di i sistemi AI in u cultu di l'expertise.

In parechji spazii, avemu sceltu di mostrà una deferenza quasi tutale à l'esperti credenziali. Duranti Covid, per esempiu, hè statu cunsideratu quasi ereticu di interrogà e raccomandazioni di u duttore Fauci, u duttore Birx, u CDC, o a FDA. Ancu allora, però, era sempre (appena) pussibule di nutà chì quelli esperti puderanu esse indebitamente disprezzati di e cunsequenze ecunomiche negative di e so raccomandazioni di salute publica. Imagine a prossima epidemia, quandu u cunsigliu di pulitica hè una IA chì hà cunsideratu centinaie di millaie di variàbili per evaluà quadrillioni di scenarii.

Un tali risultatu hè u veru futuru incubiu: una dittatura efficace da una IA chì ùn sparte micca e vostre credenze basi o valori.

Longu prima chì un AI sterminatore piglia u cuntrollu glubale in u so propiu nome, i nostri guverni è i nostri concittadini cuncederanu à un sistema AI l'autorità di dichjarà emergenze, dispensa da e libertà civili è cuntrullà a nostra vita.

Finu à ricuperà i meccanismi di u guvernu chì avemu bisognu di priservà a nostra libertà contr'à l'assaltu di l'esperti, ùn seremu mai salvu da e privazioni potenziali di a guvernanza AI.

L'IA stessa pò esse cuntene. A cumminazzioni di AI, devozione servile, è applicazione generalizata ùn serà micca. Avemu da rinfurzà a nostra credenza cullettiva in l'infallibilità di una classe esperta, o i cunsiglieri di l'AI puderanu finisce a nostra civilizazione.

Bruce Abramson, PhD, JD, hè presidente di a consulenza strategica Informationism, Inc. è un direttore di u Centru Americanu per l'Educazione è a Cunniscenza. Pioneered l'usu di simulazioni à grande scala è analisi statistiche in sistemi AI. Hà scrittu cinque libri, cumprese "A Nova Guerra Civile: Exposing Elites, Fighting Utopian Leftism, and Restoring America", (RealClear Publishing, 2021).