Ciò chì u Bill AI ‘Killswitch’ di California significa per l’IA decentralizata

Scrittu da Robert Knight via CoinTelegraph.com,

I figuri di l'industria sò spartuti nantu à un cuntinente prughjettu di l'intelligenza artificiale californiana chì hà passatu u 28 d'aostu.

A nova legislazione obligarà l'imprese AI à implementà novi protokolli di sicurezza, cumpresu un buttone di "arrestu d'emergenza" per i mudelli AI.

L'Innuvazione Sicura è Sicura per i Modelli di Intelligenza Artificiale di Frontiera (SB 1047) hà passatu u Senatu di California 29-9 u 28 d'Agostu.

U prughjettu di legge va avà à u desk di u guvernatore Gavin Newson per a ratificazione.

Elon Musk era trà quelli chì anu manifestatu sustegnu à u prugettu. Nantu à X, hà dettu chì era una "chjama dura" ma favuritu a legislazione per via di u "riscu potenziale" di l'IA.

Fonte: Elon Musk

Tuttavia, micca tutte e figure tecnologiche sò cunvinte in u listessu modu. U capu di strategia di OpenAI Jason Kwon hè trà quelli chì anu criticatu a legislazione.

Calanthia Mei, co-fundatore di a reta decentralizata AI Masa, hà dettu ch'ella ùn era micca in favore di e novi regule, suggerenu chì eranu u risultatu d'una fretta indebita di legislazione.

"Regulamenti prematuri cum'è questu ùn solu caccià u talentu fora di California; caccià u talentu fora di l'America ", disse Mei à Cointelegraph. Ella aghjunse:

"U risicu si trova in a probabilità probabile chì i quadri regulatori attuali è pruposti di l'America limitenu a crescita di l'industria di l'IA".

Raheel Govindji, u CEO di u prughjettu AI decentralizatu DecideAI, hà pigliatu una vista cuntrastanti.

"Semu in favore di a legislazione", Govindji hà dettu à Cointelegraph.

Govindji hà dettu chì DecideAI sustene un killswitch cuntrullatu da una urganizazione autònuma decentralizata (DAO), chì hè cumu si prupone di demucratizà è decentralizà un stop d'emergenza.

L'IA hè una industria in rapidità

A natura rapida di l'industria di l'IA hà suscitatu teme per u so sviluppu senza limiti.

In una lettera di u 22 d'aostu, l'anzianu staffu è informatori di l'OpenAI hà avvistatu , "Sviluppà mudelli di IA di frontiera senza precauzioni di sicurezza adeguate ponu risichi previdibili di dannu catastròficu à u publicu".

Ma à l'altri, u rapidu ritmu di u sviluppu di l'IA hè qualcosa da celebrà piuttostu chè temutu.

"In cuntrastu cù altre tecnulugii trasformative, a velocità di l'innuvazione AI hè senza paragone. I custruttori spedinu novi prudutti, funzioni è applicazioni ogni ghjornu ", disse Mei.

"Noi cum'è custruttori ùn sapemu mancu induve hè u tettu di l'IA; Cumu u guvernu cunnosce u tettu di l'IA? Stabbilisce limiti per tecnulugii d'altu potenziale ùn hè micca prudente ".

Mei hà avvistatu chì u costu ultimu di a legislazione seria di "caccià u talentu fora di i Stati Uniti" cum'è "hà fattu per a criptografia".

Quelli in favore

Govindji prupone chì un "killswitch cuntrullatu da DAO" puderia sustene i requisiti di a legislazione, pur mantenendu "una decisione cullettiva è trasparente".

U prugettu stabilisce chì qualsiasi mudellu AI deve esse capace di "promulgà prontamente un arrestu cumpletu", ma ùn riesce à definisce u significatu di prontamente, lascendu un spaziu considerableu per l'interpretazione.

Per avà, ùn hè micca cunnisciutu se un mudellu DAO è u so sistema di votu demucraticu seranu abbastanza pronti per suddisfà i legislaturi. Govindji hè cunfidendu chì serà. Sicondu Govindji, DecideAI "serà davanti à a curva in furnisce AI chì hè un bonu suciale".

A cumpagnia di IA Anthropic hà ancu sustinutu publicamente u prugettu.

In una lettera aperta à u guvernatore Newsom, u CEO Anthropic Dario Amodei hà dettu: "I sistemi AI avanzanu in capacità estremamente rapidamente, chì offre una grande prumessa per l'ecunumia di California è un risicu sustanziale […] Cridemu SB 1047, in particulare dopu e recenti mudificazioni, prubabilmente presenta una carica di cunfurmità fattibile per cumpagnie cum'è a nostra, in vista di l'impurtanza di evità l'abusu catastròficu ".

Una versione precedente di u prugettu hà trasmessu penalità penali per e cumpagnie chì ùn anu micca rispettu. Dopu a cunsultazione cù l'industria, sta disposizione hè stata annacquata solu à penalità civili.

Bill SB 1047

U Bill SB 1047 s'applicà solu à i "mudelli coperti", cù a definizione di quali mudelli sò coperti chì cambianu cù u tempu.

À l'implementazione, un mudellu coperto serà una IA chì custa più di $ 100 milioni per sviluppà o "Un mudellu di intelligenza artificiale addestratu cù una quantità di putenza di calculu più grande di 10^26 integer o operazione in virgule flottante".

L'Agenzia di l'Operazioni di u Guvernu di u guvernu federale ghjudicherà ogni cambiamentu di u sogliu di putenza di calculu.

In una lettera à u guvernatore Newsom, Kwon d'OpenAI hà sustinutu chì a legislazione versu l'IA deve esse trattata solu à u livellu federale "piuttostu cà un patchwork di leggi statali".

Data a concentrazione eccessiva di imprese di tecnulugia è IA in California, SB 1047 puderia esse forse a legislazione naziunale di facto per avà.

A situazione puderia cambià in casu chì a legislazione pruvucassi l'imprese di l'IA à fughje in altri stati, ma per evità l'SB 1047 sanu, l'imprese anu ancu bisognu di cessà tutte e operazioni è servizii in California.