Ricercatore di Google Negru Dice ch'ella hè stata sparata perchè hà scupertu chì AI hè razzista

Un famosu ricercatore di intelligenza artificiale di Google hà twittatu mercuri ch'ella hè stata licenziata per via di un mail chì esprimia u scantu cù a direzzione per a censura di e novi ricerche.

Timnit Gebru, co-dirigente tecnicu di a squadra Etica AI di Google, chì cerca ricerche di pregiudiziu algoritmicu è di data mining, hè stata un difensore francu per a diversità in tecnulugia, hà dichjaratu, in una serie di tweets, chì hè stata licenziata per avè rifiutatu di retrattà un documentu di ricerca. chì descrive cume AI discrimina contr'à e minurità è ancu per via di una lagnanza in un mail à i colleghi .

Esprimendu e so frustrazioni in un email à un gruppu di cumpagnie internu chjamatu Google Brain Women and Allies – Gebru hà criticatu l'impieghi di Google di e minurità è ùn fà micca abbastanza per prumove "AI responsabile"

L'email hè stata spartita da Casey Newton di Platformer :

Salute amichi,

Aviu cessatu di scrive quì cum'è pudete sapete, dopu à tutte e microagressioni è macro aggressioni è molestie chì aghju ricevutu dopu avè publicatu e mo storie quì (è naturalmente hà cuminciatu à esse moderatu).

Recentemente, però, stavu cuntribuendu à un documentu chì Katherine è Daphne scrivevanu induve eranu sconcertati da u fattu chì dopu tuttu questu discorsu, questu org sembra aver assuntu 14% o più donne quist'annu. Samy hà assuntu 39% da ciò chì capiscu, ma ùn hà nunda d'incentive per fà questu.

Ciò chì vogliu dì hè smette di scrive i vostri documenti perchè ùn face micca a differenza. I DEI OKR chì ùn sapemu micca d'induve venenu (è ùn sò mai incontrati in ogni casu), e discussioni casuale, u "avemu bisognu di più mentoriu" invece di "avemu bisognu di fermà l'ambienti tossichi chì ci impediscenu di prugressà" a costante lotta è educazione à u vostru costu, ùn anu micca impurtanza. Perchè ùn ci hè nunda di responsabilità. Ùn ci hè micca incitantu à impiegà 39% di donne: a vostra vita s'aggrava quandu si principia à difende per e persone sotturiprisentate, si principia à fà scumbattà l'altri dirigenti quandu ùn vogliono micca dà boni valutazioni durante a calibrazione. Ùn ci hè manera di più documenti o più cunversazioni da rializà qualcosa. Avemu ghjustu avutu una ricerca Nera tutte e mani cun un spettaculu emozionale di esasperazione. Sapete ciò chì hè accadutu dapoi? Silenziate in u modu più fundamentale pussibule.

Avete mai intesu parlà di qualcunu chì riceve "feedback" nantu à una carta attraversu un documentu privilegiatu è cunfidenziale à HR? Vi pare cusì una prucedura standard per voi o accade solu à e persone cum'è mè chì sò sempre disumanizate?

Immaginate questu: Avete mandatu un articulu per risposte à più di 30 ricercatori, site in attesa di feedback da PR & Policy chì avete datu un capu prima ancu di scrive u travagliu dicendu "stemu pensendu à fà questu", travagliendu in un pianu di revisione chì capisce cumu affruntà e diverse risposte di e persone, ùn anu micca intesu parlà di PR & Politica oltre à elli chiedenduli aggiornamenti (in 2 mesi). Una settimana prima di sorte in vacanze, vedi una riunione spuntà à 16:30 PST in u vostru calendariu (questu hè spuntatu versu 14:00). Nuddu ti dicerebbe à chì cosa era a riunione in anticipu. Dopu, in quella riunione, u direttore di u vostru direttore vi dice "hè statu decisu" chì avete bisognu à ritruvà stu documentu a settimana prossima, u 27 di nuvembre, a settimana quandu quasi tutti seranu fora (è una data chì ùn hà nunda à chì vede cù a cunferenza prucessu). Ùn vale a pena di avè alcuna conversazione annantu à questu, postu chì ùn site micca qualcunu chì a so umanità (ancu menu i sapè fà ricunnisciuti da i ghjurnalisti, i guverni, i scientisti, l'organizazioni civichi cum'è a fundazione elettronica di e fruntiere ecc.) Sia ricunnisciuta o valutata in sta sucietà.

Dopu, dumandate più infurmazione. Chì feedback specificu esiste? Da quale vene? Perchè avà? Perchè micca prima? Pudete andà torna è torna cun qualchissia? Pudete capisce chì esattamente hè problematicu è chì pò esse cambiatu?

È vi dicenu dopu un pocu chì u vostru gestore vi pò leghje un documentu privilegiatu è cunfidenziale è ùn si suppone mancu sapè quale hà cuntribuitu à stu documentu, chì hà scrittu stu feedback, chì prucessu hè statu seguitu o qualcosa. Scrivite un documentu detallatu chì discute qualsiasi pezzi di feedback chì pudete truvà, dumandendu dumande è chiarimenti, è hè cumpletamente ignoratu. È site incontratu, una volta di più, un ordine per ritirà a carta senza alcun impegnu.

Poi pruvate à impegnassi in una cunversazione nantu à cume questu ùn hè micca accettabile è a ghjente cumme
ncia à fà u cuntrariu di ogni sorta di riflessione di sè stessu-pruvendu à truvà i capri espiatori da culpà.

Silenziare voci marginalizate cum'è questu hè u cuntrariu di i principii NAUWU chì avemu discuttu. È fà questu in u cuntestu di "AI responsabile" aghjusta tantu sale à e ferite. Capiscu chì l'uniche cose chì significanu qualcosa in Google sò livelli, aghju vistu cumu a mo perizia hè stata cumpletamente scartata. Ma avà ci hè un stratu addiziunale chì dice chì qualsiasi persona privilegiata pò decide chì ùn volenu micca u vostru documentu cun cunversazione zero. Cusì site bluccatu d'aghjunghje a vostra voce à a cumunità di ricerca -u vostru travagliu chì fate in cima à l'altra marginalizazione chì vo fate quì.

Sò sempre stupitu di cume a ghjente pò cuntinuà à fà cose dopu à cose cusì è poi girassi è dumandami una sorta di travagliu o input DEI in più. Questu m'hè accadutu l'annu scorsu. Eru in mezu à una prucedura potenziale per a quale Kat Herller è aghju assuntu avvucate feministe chì anu minacciatu di denuncià à Google (chì hè quandu si sò ritirati – prima chì l'avucati di Google eranu pronti à lancià ci sottu à l'autobus è i nostri dirigenti seguitavanu cum'è urdinatu) è u ghjornu dopu aghju qualchì "premiu d'impattu" casuale. Puru illuminazione a gas.

Dunque, se vulete cambià e cose, suggeriu di focalizassi nantu à a responsabilità di a leadership è di pensà à chì tippu di pressioni ponu esse applicate ancu da l'esternu. Per esempiu, credu chì u Caucus Negru di u Cungressu hè l'entità chì hà iniziatu à furzà l'imprese tecnulugiche à riportà u so numeru di diversità. Scrivite più documenti è dicendu e cose ripetutamente vi stancanu ma nimu ùn li stà à sente.

Timnit

Gebru era apparentemente in discussioni cù a direzzione per una demissione pussibile se certe condizioni riguardanti u so documentu di ricerca ùn eranu micca soddisfatte. Ella hà dettu chì e cundizioni chì, à propositu, ùn eranu micca dichjarate in u duminiu publicu, ùn eranu micca rispettate. A cumpagnia ùn li hà micca datu a pussibilità di risponde cù a cessazione immediata.

"Apparentemente u direttore di u mo direttore hà mandatu un email per e mo relazioni dirette dicendu ch'ella accettava a mo demissione. Ùn avia micca dimissiunatu – Aviu dumandatu prima e cundizioni semplici è aghju dettu di risponde quandu tornu da e vacanze. Ma credu ch'ella hà decisu per mè 🙂 Eccu l'avucatu di parlà ", hà tweetatu.

Apparentemente u direttore di u mo direttore hà mandatu un mail i mo rapporti diretti dicendu ch'ella accettava a mo demissione. Ùn avia micca dimissiunatu-Aviu dumandatu cundizioni semplici prima è aghju dettu di risponde quandu tornu da e vacanze. Ma credu ch'ella hà decisu per mè 🙂 hè l'avucatu chì parla.

– Timnit Gebru (@timnitGebru) 3 Dicembre 2020

Ella cuntinua: "Aghju dettu quì sò e cundizioni. Se pudete scuntralli eccezziunale, piglieraghju u mo nome da stu documentu, sì micca, allora possu travaglià nantu à un ultimu appuntamentu. Dopu hà mandatu un email à i mo rapporti diretti dicendu chì hà hà accettatu a mo demissione. Allora hè google per voi. Avete vistu chì accadesse quì. "

Aghju dettu quì sò e cundizioni. Se li pudete scuntrà bè, cacceraghju u mo nome da sta carta, sì micca allora possu travaglià nantu à un ultimu appuntamentu. Dopu hà mandatu un mail à i mo rapporti diretti dicendu ch'ella hà accettatu a mo demissione. Cusì hè google per voi. L'avete vistu passà quì.

– Timnit Gebru (@timnitGebru) 3 Dicembre 2020

Eccu una risposta per email citata da u manager di Gebru nantu à a so fine:

"Grazie per avè spiegatu e vostre cundizione. Ùn pudemu micca accettà # 1 è # 2 cum'è dumandate . Rispettemu a vostra decisione di abbandunà Google in cunsequenza, è accettemu a vostra dimissione.

"Tuttavia, credemu chì a fine di u vostru impiegu duveria accade più rapidamente di ciò chì u vostru email riflette perchè certi aspetti di l'email chì avete mandatu eri sera à impiegati chì ùn sò micca dirigenti in u gruppu di u cervellu riflettenu un cumpurtamentu chì ùn hè micca cuncordante cù l'aspettative di un manager di Google.

"Di conseguenza, accettemu subitu a vostra demissione , efficace oghje. Mandaremu u vostru ultimu salariu à u vostru indirizzu in Workday. Quandu tornerete da e vostre vacanze, PeopleOps vi ghjunghjerà per coordinà u ritornu di i dispositivi è di l'assi di Google. "

In un altru tweet, Gebru hà chjamatu à u capu di l'IA di Google, Jeff Dean. Ella disse chì Dean hè probabilmente quellu chì hà firmatu u so sparamentu. "Ùn li piacia micca u mo email à una lista di mailing per donne è alliati in u cervellu", aghjunse.

Mandaraghju u mo email quì ma u mo contu corp hè statu tagliatu. Mi sentu male per i mo cumpagni ma per mè hè megliu di cunnosce a bestia chè di finta. @negar_rz ùn hà mancu avutu idea chì e cose avianu scalatu cusì rapidamente.

– Timnit Gebru (@timnitGebru) 3 Dicembre 2020

I tweets di Gebru nantu à a so cessazione sò ghjunti dopu chì u Cunsigliu Naziunale di e Relazioni Laborali di i Stati Uniti abbia presentatu una lagnanza contr'à Google, accusendu a sucietà di viulà e leggi di u travagliu.

A sucietà avia presumibilmente "interferitu, trattenutu è coercitu i salariati in l'eserciziu di i so diritti garantiti in a Sezione 7 di a Lege", secondu a denuncia presentata marti.

Dapoi a cessazione di Gebru, i salariati di Google sò solidari à l'investigatore licenziatu per via di "censura di ricerca senza precedente", leghje u situ web Google Walkout For Real Change .

"Chjamemu Google Research per rinfurzà u so impegnu à l'integrità di a ricerca è à impegnassi inequivocabilmente à sustene a ricerca chì rispetta l'impegni presi in i Principi AI di Google", hà dettu u situ web.

Questu hè solu l'ultimu incidente chì mostra chì Google diventa troppu putente.