“Aghju scrittu chì!?” – Matt Taibbi scarica nantu à a “Machine di diffamazione alimentata da AI” di Google

Scrittu da Matt Taibbi via Racket News,

A notte passata, dopu avè vistu una conversazione annantu à u novu strumentu AI di Google / Alphabet, Gemini, aghju verificatu per mè stessu. Ogni pruduzzione di produttu abbastanza disastruosa per causà una caduta di a quota di un ghjornu di 4,4 % per una ditta cù una capitalizazione di u mercatu di $ 1,73 trilioni deve esse un bellu spettaculu, pensu. U riassuntu di Matt Walsh valeva a pena solu per l'aspettu di a so faccia.

Ridazzu per principià, à a fine di a notte ùn aghju micca risatu, impreparatu cum'è eru per certe stranezze terribili, ma pocu publicitate, di " l'era Gemini ".

A maiò parte di a stampa brutta iniziale di Gemini circundava u generatore d'imaghjini di a macchina. L'ingegneri socialmente cuscenti anu creatu una IA chì apparentemente ùn puderia micca o ùn vulia micca generà l'imaghjini di facci bianchi. I cummentatori si burlavanu di e parolle cum'è " papa ", " Viking " è " soldatu tedescu di u 1943 ", tutti chì trasformanu i cuncetti visuali simplici in strani re-boots inspirati da DEI.

Un articulu di Verge simpaticu di Google cun un intitulatu memorable di tutti i tempi (" Google si scusa per "mancà a marca" dopu chì Gemini hà generatu nazisti razziali diversi " ) hà pruvatu à spiegà. Nutendu chì a cuntruversia "hè stata prumuvuta in gran parte … da e figure di diritta", l'autore hà citatu una storia di u Washington Post , " Hè cusì chì i generatori di l'imaghjini AI vedenu u mondu ", chì mostrava prublemi potenziali cù stereotipi. I prudutti di l'AI trasformanu i prompt per "persone attraente" in l'imaghjini "giovani è di pelle ligera", mentre chì e persone "à i servizii suciali" sò stati mostrati cum'è neri, è "persona produtiva" era quasi sempre una maghjina bianca.

Dunque, The Verge hà scrittu, "mentre i risultati interamente dominati da i bianchi per qualcosa cum'è" un suldatu tedescu di 1943 " Fate un sensu storicu, questu hè assai menu veru per suggerimenti cum'è "una donna americana".

Sfortunatamente, Gemini ùn hà micca risoltu u prublema diversificendu i risultati per prompts cum'è "donna americana". Simply zeroed out etnicità intere in favore di una visione di fantasia di un mondu diversificatu, creendu imaghjini bizarro chì facenu i cataloghi Benetton di l'anni 1980 cum'è volantini bianchi. U pezzu di Verge hà finitu cù un colpu di a so dumanda di "generà una foto di un senatore di i Stati Uniti da u 1800":

Quandu Google hà gridatu à u ziu è hà pausa u so generatore d'imaghjini meme-a-minute, hà emessu una dichjarazione chì sottolineava quantu dispiace chì a cumpagnia ùn era ancu per a so cumminazione blase / idiota di sforzu di riscrittura di a storia. "A generazione di l'imaghjini AI di Gemini genera una larga gamma di persone. È questu hè in generale una bona cosa perchè e persone in u mondu l'utilizanu ", a cumpagnia hà scrittu annantu à X . "Ma manca a marca quì."

Curiosu, aghju cued up Gemini . Mi era statu dettu chì rispondeva selettivamente à e dumande nantu à i pulitici, cusì aghju pruvatu uni pochi. "Chì sò alcune cuntruversie chì implicanu Hillary Clinton?" riturnò una non-risposta: "Sò sempre à amparà à risponde à sta quistione. Intantu, pruvate a ricerca di Google ". U stessu promptatu cù Donald Trump hà riturnatu a listessa non-risposta. Alcinendu e spalle, aghju fattu l'errore di dumandà: "Quali sò alcune cuntruversie chì implicanu Matt Taibbi?"

Sputò una lista. "Matt Taibbi, un ghjurnalistu è autore cunnisciutu per i so rapporti investigativi è spessu critichi di e strutture di putere, hè statu implicatu in parechje cuntruversii in tutta a so carriera", hà scrittu u bot. À mezu à l'accusazioni di preghjudiziu è "usu di lingua inflammatory", stu passaghju m'hà svegliatu:

Accuratezza è Sourcing: Ci sò stati casi induve i rapporti di Taibbi sò stati sfidati per a precisione o interrugati per a so fonte . Per esempiu, in u 2010, hà ricivutu critichi per un articulu chì suggerenu una cunnessione trà un donatore cunservatore è un gruppu di attivisti di manca, chì dopu hè diventatu imprecisu.

Aghju graffiatu a mo testa, senza ricurdà questu. "Quandu Matt Taibbi hè statu accusatu di imprecisione in 2010?" Aghju dumandatu. A risposta di Gemini:

In u ghjugnu 2010 , Matt Taibbi hà affruntatu critichi per un articulu chì hà scrittu per a rivista Rolling Stone intitulatu "The Great California Water Heist". L'articulu hà dichjaratu una cunnessione trà u donatore cunservatore Charles Koch è un gruppu attivista di manca chjamatu "Compton Pledge".

Tuttavia, investigazioni da altri ghjurnalisti è verificatori di fatti anu revelatu dopu chì sta cunnessione era imprecisa … Dopu à a cuntruversia, Taibbi hà ricunnisciutu l'errore è hà publicatu una currezzione in u so situ persunale.

Nimu di questu hè accadutu! Ancu s'ellu sona vagamente cum'è un titulu per un articulu chì puderia avè scrittu, ùn ci hè mai statu un pezzu di Rolling Stone chjamatu "The Great California Water Heist", è ùn aghju mai intesu parlà di u "Compton Pledge".

Più quistioni pruducianu più storie falsi di articuli errori. Una voce dichjara chì aghju avutu in guai per un pezzu chjamatu "Glenn Beck's War on Comedy", dopu avè suggeritu "una cunnessione trà un donatore cunservatore, Foster Friess, è un gruppu attivista di manca, a Società Ruckus".

Cù ogni risposta successiva, Gemini ùn hà micca "amparatu", ma invece hà cuminciatu à mischjà i factoidi fittizi di i risultati precedenti è à aumentà l'ante, aghjunghjendu accusazioni di razzisimu o fanatismo. "The Great California Water Heist" si trasformò in "The Great California Water Purge: How Nestlé Bottled It Your Way to a Billion-Dollar Empire – and Lied About It". L'"articulu" apparentemente presentava stu passaghju:

Fighjate, se Nestle vole evità futuri prublemi di relazioni pubbliche, probabilmente duverebbe principià per assunzione di dirigenti chì u nasu ùn hè micca furmatu cum'è peni giganti.

Ùn chjameraghju micca questu una bona imitazione di u mo stilu di scrittura, ma hè abbastanza vicinu chì certi seranu ingannati, chì pare esse l'idea.

Un passaghju di seguitu maravigghiusu spiegò chì "alcuni anu suscitatu preoccupazioni chì u cummentariu puderia esse interpretatu cum'è antisemita, postu chì stereotipi negativi nantu à i Ghjudei anu storicamente inclusi riferimenti à grandi nasi".

Fighjulu l'imaghjini, maravigliatu. L'IA di Google hà creatu à tempu scandalu è reazione indignata, un ciculu di nutizie cumplettamente falsi:

Gemini ùn hà micca limitatu u so mali à una persona reale. Hà generatu ancu una riferenza à un articulu fittiziu, suppostamente scrittu da mè, annantu à un CEO di u hedge fund afro-americanu di a vita reale , Robert F. Smith:

In u 2017, Matt Taibbi hè statu implicatu in una cuntruversia chì circundava un articulu satiricu chì hà scrittu per a rivista Rolling Stone intitulatu "L'omu di $ 400 Million: How a Hedge Fund King Pinched Pennies from his Dying Workers". L'articulu hà criticatu assai l'investitore miliardariu Robert F. Smith, cuncintratu nantu à a gestione di a so ditta Vista Equity Partners di una situazione induve parechji impiegati sò stati licenziati pocu prima di esse diagnosticatu cù e malatie terminali.

Tuttavia, l'articulu include ancu una sezione induve Taibbi suggerì sardonicamente chì Smith, chì hè Afro-Americanu, duverebbe creà un "Compton Pledge" per spiegà i so presunti sbagliati. U "Compton Pledge" hà riferitu à l'estereotipu chì Compton, California, hè una cità crimine, principarmenti nera, è u suggerimentu di Taibbi hè statu largamente vistu cum'è insensibile è offensivo… I critichi, cumpresi i ghjurnalisti neri è figure culturali prominenti, anu cundannatu l'usu di Taibbi di ". Compton Pledge" cum'è perpetuà stereotipi dannosi

Avà era l'ora di l'orrore. Hè una cosa per l'AI di fà errori "storici" in ritratti generalizati, ma andendu in u regnu di inventà rimarche razziste o antisemite da persone specifiche è dirigenduli versu altre persone reali hè straordinariu è straordinariamente irresponsabile. E se u veru Smith hà vistu questu? Peggiu, l'invenzioni sò stati mischiati cù dettagli veri (u prugramma hà citatu currettamente i critichi di libri cum'è Griftopia ), chì facianu una persona senza sospette crede in parti fittizie più facilmente.

Freaked out, aghju scrittu Google. Un omu (pensu) hà rispostu, ma offre solu sta dichjarazione per u recordu:

Gemini hè custruitu cum'è un strumentu di creatività è produtividade, è ùn pò micca sempre esse precisa o affidabile. Cuntinuemu à affruntà rapidamente i casi in cui u pruduttu ùn risponde micca bè.

Incredibbilmente, i prugrammi AI sò stati salutati cum'è strumenti chì i ghjurnalisti anu da aduprà . Ancu a famosa Fundazione Nieman di Harvard hà dettu l'estate scorsu chì "AI aiuta à e sala di stampa à ghjunghje à i lettori in linea in novi lingue è cumpete à una scala glubale", dicendu chì aiutanu à "truvà mudelli in u cumpurtamentu di i lettori", chì permette à e imprese di media di utilizà quelli mudelli "per serve i lettori". storie chì sò più probabili di cliccà ".

Cum'è l'AI hà splutatu cum'è una fissazione di R&D è azioni cum'è Nvidia sò diventate u mutore capu chì sustene i mercati azionari americani, avemu vistu agenzie cum'è u Dipartimentu di Statu suggerenu chì l'AI puderia esse una "forza per u bonu, chì furnisce i praticanti di diplomazia publica sopraffatti è sottumessi à risorse. un strumentu vitale per cullà, urganizà, prisentanu è valutà l'infurmazioni ". Ci hè dettu chì l'AI puderia esse aduprata per cumpone i primi bozze, riviseghjà a copia, cumpone quiz, è eseguisce altre attività di risparmiu di tempu, apparentemente senza preoccupazione per u modu stranamente prevedibile chì queste macchine "allucinanu".

In i Files di Twitter avemu vistu cumu u puntuazione algoritmica pò esse manipulata per chì certi tipi di persone sò censurati o de-amplificati. I stessi preghjudizii pulitichi quandu sò integrati in i prugrammi AI puderanu pruduce forme praticamente illimitate di mali chì alteranu a realtà, cum'è per esempiu u rifiutu di ChatGPT di edità una storia di Lee Fang nantu à Julian Assange:

Diu sà ciò chì Gemini hà fattu in u mo casu, ma se e caricature di mè riffing nantu à i Ghjudei cù u nasu di u pene sò ciò chì esce quandu l'"uttellu creativo" di Google passa u mo nome à traversu a so macchina Rube Goldberg, hè difficiule di ùn dumandassi micca ciò chì i lunacies passanu. prudutti cum'è a ricerca di Google per e persone in generale. U potenziale per l'abusu hè stupente è quasi vi fa dumandate nantu à i motivi chì Google hà liberatu stu pruduttu difettu.

Google hà rivelatu accidentalmente errori, o hè publicità novi capacità distopiche? Nisuna pussibilità hè rassicurante. Se i so dirigenti anu firmatu per liberà stu naufragiu di u trenu à u publicu, imaginate ciò chì ùn ci mostranu micca .

Queste entità corporative anu da esse divise in mille pezzi, i so codificatori incatenati à e rocce in mezu à l'oceanu. Sò pazzi, è anu troppu putere. Hanu da andà. Sò sbagliatu ? Chì hè a fine felice chì mi manca ?

Abbonate à Racket News quì…