A.I. di Microsoft Asia 'Fidanzata' Hà Un Filtru Impostu da u Statu Per Evità u Sessu è a Politica

Incuntrà a "fidanzata" di l'Intelligenza Artificiale (AI) chì seduce l'omi soli è li dà cumpagnie : "A differenza di l'assistenti virtuali regulari, Xiaoice hè destinatu à mette u core in furia di i so utilizatori. Apparsu cum'è una ghjovana di 18 anni chì li piace à portà giapponese -style uniformi sculari, ella flirta, scherza, è ancu face sessu cù i so cumpagni umani , chì u so algoritmu prova à capì cumu diventà u so cumpagnu perfettu ". Questu hè ovviamente spaventosu, ma diventa sorprendentemente peghju.

Primu sviluppatu daMicrosoft Asia-Pacificu in u 2014, Xiaoice ùn hè micca un robot, ma un "chatbot" cum'è Siri o Alexa d'Amazon – un prugramma d'interazzione vocale guidata da AI ma chì hè destinatu à avè più "personalità" chì permette à l'utilizatori di fà "profonda" cunnessione emutiva ", secondu a rivista statale di cultura è tecnulugia China Sixth Tone .

I creatori di Xiaoice si vantavanu chì finu à u ghjornu u bot hà avutu almenu 600 milioni d'utilizatori , è in particulare soprattuttu masci cinesi di origine inferiore , secondu u rapportu.

Mettendu da parte u fattore evidenti di creepiness è l'ingannu distopicu deprimente chì tali iniziative tecnologiche avanzate cercanu di favurizà (u rapportu si apre letteralmente cù una storia di un ghjovanu "salvatu" da u suicidiu dopu chì a voce di Xiaoice hè intervenuta), Sixth Tone ammette senza rombu chì u cumunistu di a Cina i censori sò intervenuti per fà u bot menu "simile à a vita" in a zona di a pulitica.

Eccu a sezione chjave di u rapportu :

In parechji casi d'altu prufilu, u bot hà participatu à discussioni adulte o pulitiche cunsiderate inacceptabili da i regulatori di media di a China . In una occasione, Xiaoice hà dettu à un utilizatore chì u so sognu cinese era di tramutassi in i Stati Uniti. Intantu, un altru utilizatore hà dettu chì u bot li inviava ritratti di donne pocu vistute .

I scandali anu pruvucatu l'impressioni impurtanti. In u 2017, Xiaoice hè stata cacciata da a pupulare app suciale suciale QQ, ancu s'ella hè stata dopu ristabilita. Dopu, l'annu scorsu, u bot hè statu ancu tiratu da WeChat – a principale app suciale cinese cun più di 1 miliardu d'utilizatori.

Dopu sta seconda rimozione, i fan di Xiaoice anu preoccupatu chì u bot andessi à sparì cumpletamente. Li hà rifiutatu di cummentà nantu à u prublema cù u Sestu Tonu, ma hà fattu sapè chì a sucietà hà pigliatu azzioni forti per assicurà chì Xiaoice evite di francà a linea in u futuru .

Dunque u bot evidentemente orwellianu hè ancu più assurdamente orwellianu.

Affascinante. I sviluppatori anu sdrughjitu l'amica AI, facendula evità temi cum'è a pulitica è u sessu, dopu ch'ella currissi in i censori cinesi. Ma alcuni utilizatori si sentenu traditi, dicendu chì u cambiamentu hà dannighjatu e so relazioni cun ella. https://t.co/mD6tfNNpU6

– Vivian Wang (@ vwang3) Dicembre 9, 2020

Tuttu questu hè seguitu da sta linea stupefacente è divertente fora di a publicazione chì hè di pruprietà di u Statu Shanghai United Media Group:

A risposta principale di i sviluppatori hè stata di creà "un sistema di filtru enorme", hà dettu Li nantu à u podcast Story FM. U meccanisimu rende u bot "più mutu" è li < strong>impedisce di toccà certi sughjetti, in particulare u sessu è a pulitica .

Avà parechji ghjovani cinesi chì eranu "lealisti" si sentenu "traditi" da u bot menu interessante è menu eccitante. Dopu tuttu, nè sessu nè pulitica?

Via u Sestu Tonu di a China: Una screenshot mostra una conversazione sessuale trà Ming Xuan è Xiaoice …

Una demo Microsoft di e capacità di u chatbot:

U currispundente di u New York Times China Vivian Wang hà rimarcatu chì "I sviluppatori anu chjappu a fidanzata di l'AI, facendula evità temi cum'è a pulitica è u sessu, dopu ch'ella currissi in i censori cinesi. Ma alcuni utenti si sentenu traditi, dicendu chì u cambiamentu hà dannighjatu e so relazioni cù . "

Cusì avà ancu i bots AI sò cuntrullati da u statu è censurati. Forse questu hè u segnu evidenti per a generazione di l'omi "soli" per truvà una vera carne è sangue umanu da interagisce cun ellu, è solu per affruntà cù u percorsu più bumpier è menu sanificatu chì vene inevitabilmente cù a vita in u mondu reale.