Facebook si scusa dopu avè etichettatu l’omi neri cum’è “Primati”

Facebook s'hè affruntatu à scusassi vennari dopu avè etichettatu l'omi neri cum'è "primati". Un portavoce di Facebook hà dettu à u New York Times, chì hà dettu prima a storia , chì era un "errore chjaramente inaccettabile" di u so sistema di raccomandazione autogeneratu è hà dettu chì u software implicatu era disattivatu.

"Ci scusemu à qualchissia chì pò avè vistu ste raccomandazioni offensive", hà dettu Facebook – chì a squadra di dirigenza hè cumplettamente bianca – in risposta à un'inchiesta AFP . " Avemu disattivatu tutta a funzione di raccomandazione di u tema appena avemu capitu chì sta succorsu accussì pudemu investigà a causa è impedisce chì sta cosa accada di novu."

L'utilizatori di Facebook in i ghjorni recenti chì anu vistu una video tabloid britannica chì prisenta l'omi neri anu mostratu un prompt generatu in autumàticu dumandendu s'elli volenu " continuà à vede video nantu à i Primati? "

Una captura di schermu di a raccomandazione hè stata spartuta in Twitter da l'anzianu manager di cuncepimentu di contenuti Facebook Darci Groves, chì hà dettu chì un amicu li hà inviatu una screenshot di u video in questione cù l'invitu generatu automaticamente da a cumpagnia. U video, datatu di u 27 di ghjugnu 2020, hè statu publicatu da Daily Mail di u RU.

Contene clips di dui incidenti separati, chì parenu esse accaduti in i Stati Uniti. Unu mostra un gruppu di omi neri discutendu cù un individu biancu nantu à una strada in Connecticut, mentre l'altru mostra parechji omi neri discutendu cù ufficiali bianchi di polizia in Indiana prima di esse detenuti. "Questu prompt di" cuntinuà à vede "hè inacceptable", hà tweetatu Groves, chì hà destinatu u missaghju à l'anziani culleghi di Facebook. "Questu hè flagrante".

Um. Questu prompt di "cuntinuà à vede" hè inacceptable, @Facebook . E malgradu u video chì hà più di un annu, un amicu hà ricevutu questu promptatu ieri. Amici in FB, per piacè scalate. Questu hè flagrante. pic.twitter.com/vEHdnvF8ui

– Darci Groves (@tweetsbydarci) 2 di settembre, 2021

In risposta, un capu di produttu di Facebook hà dettu chì a sucietà "circava a causa radica". A cumpagnia hà dettu dopu chì u software di raccomandazione implicatu era statu disattivatu.

"Avemu disattivatu tutta a funzione di raccomandazione di u tema appena avemu capitu chì sta succorsu accussì pudemu investigà a causa è impedisce chì sta cosa accada di novu", hà dettu un portavoce da u New York Times.

L'utilizatori di Twitter sò stati spartuti in a so risposta à e richieste di Facebook generate da AI. Alcuni sò stati scunvurati per cume e piattaforme anu continuatu à falli affrontendu u prublema.

Torna?! Cumu ùn avemu micca amparatu questu dopu Google?! Anu un inseme di dati assai più grande, ùn la formanu micca megliu?! Argh

– Bulbul Gupta (@bulbulnyc) U 4 di settembre di u 2021

È pensà, questu hè u listessu AI chì Zuck dice chì rimpiazzerà i moderatori di cuntenuti umani …

– Chelsea (@thatchelseagirl) 3 di settembre, 2021

Altri anu procedutu à accusà direttamente Facebook di esse razzistu, incompetente è male.

Si scusanu perchè a so AI hà marcatu l'omi neri cum'è primati,
ancu s'elli ùn riscriveranu micca u sistema? Continuanu à rende evidente chì i bianchi codificanu è furmanu l'AI per esse razzisti quant'è elli.

– TaryntheRealtor (@TaryntheR) 4 di settembre 2021

Facebook hè uguale parte incompetente è male.

– Chilly Freezesteak (@freezesteak) U 4 di settembre di u 2021

Un terzu gruppu ùn hà vistu nunda di male cù l'AI algo chì hà scatenatu l'indignazione.

Questu ùn accade micca perchè Facebook o qualsiasi altra impresa di tecnulugia hè razzista. Accade perchè AI ùn hè ancu assai "intelligente". Fazzu questu per una vita è a tecnulugia diventa megliu, ma ùn hè ancu quì, hè per quessa chì ùn possu micca sempre un veìculu à guida automatica.

– anton (@perchedfalcon) u 4 di settembre di u 2021

L'omi sò primati biologicamente. Allora chì ci hè di male? pic.twitter.com/NWPwYjPa9b

– David Michal (@ DavidMi52138016) 4 di settembre, 2021

Ùn hè micca a prima volta chì u lugiziale di ricunniscenza facciale è l'AI "razzista" anu messu in difficultà. L'ultimu fiascu AI vene quandu e cumpagnie di tecnulugia sò state sott'à u focu per i pregiudizi percepiti visualizzati da u so software d'intelligenza artificiale, malgradu l'impegni solenni di e cumpagnie per a causa di u svegliu. L'annu scorsu, Twitter hà investigatu se u so ritagliatrice automatica di immagini pò esse pregiudiziale di razza contr'à i neri mentre hà sceltu chì parte di una foto da prevede in i tweets.

Un membru di a facultà hà dumandatu cumu impedisce à Zoom di caccià a testa quandu usa un fondu virtuale. Avemu suggeritu u fondu normale abituale, una bona illuminazione ecc, ma ùn hà micca travagliatu. Eru in una riunione cun ellu oghje quandu aghju capitu perchè stava accadendu.

– Colin Madland, PhD (c) (@colinmadland) 19 di settembre di u 2020

In u 2015, l'algoritmu di Google hà segnalatu dui visi di i Neri cù a parolla "gorilla", incuraghjendu a sucietà à dì chì era "veramente dispiaciutu chì ciò sia accadutu", in una dichjarazione à u Wall Street Journal.