L’A.I. di Google Fiasco espone Deeper Infowarp

Scrittu da Bret Swanson via The Brownstone Institute,

Quandu i mercati di borsa si sò aperti a matina di u 26 di ferraghju, l'azzioni di Google sò prontumente cascate di 4%, mercoledì eranu guasi 6%, è una settimana dopu eranu cadute di 8% [ZH: di sicuru, i jockeys di momentum l'hanu rimontatu in u mondu. a settimana passata in u keynote NVDA GTC di oghje]. Era una reazione senza sorpresa à u debut embarrassing di u generatore d'imaghjini Gemini di a cumpagnia, chì Google hà decisu di tirà dopu à pocu di ghjorni di ridicule in u mondu sanu.

U CEO Sundar Pichai hà chjamatu u fallimentu "completamente inaccettabile" è hà assicuratu à i investitori chì i so squadre "travagliavanu 24 ore" per migliurà a precisione di l'IA. Pruvaranu megliu i prudutti futuri, è i rollouts seranu più lisci, insistia.

Chì pò esse tuttu veru. Ma se qualcunu pensa chì questu episodiu hè soprattuttu nantu à i disegni ostentatiously svegliati, o se pensa chì Google pò risolve rapidamente u preghjudiziu in i so prudutti AI è tuttu tornerà à a nurmale, ùn capiscenu micca l'ampiezza è a prufundità di l' infowarp di decenniu. .

L'iper-visuale zaniness di Gemini hè solu l'ultima è a più ovvia manifestazione di un colpu digitale longu in corso. Inoltre, anticipa un novu tipu di dilemma di l'innovatore chì ancu e cumpagnie di Big Tech più ben intenzioni è pensate puderanu esse incapaci di navigà cun successu.

U debut di Gemini

In dicembre, Google hà presentatu u so ultimu mudellu di intelligenza artificiale chjamatu Gemini. Sicondu i benchmarks di l'informatica è parechji utilizatori esperti, a capacità di Gemini di scrive, ragiunà, codificà è risponde à e dumande di compiti (cum'è a pianificazione di un viaghju) rivalisava cù u mudellu più putente di OpenAI, GPT-4.

A prima versione di Gemini, però, ùn include micca un generatore d'imaghjini. U DALL-E di OpenAI è l'offerte cumpetitive di Midjourney è Stable Diffusion sò ghjunti in scena in l'ultimu annu cù l'arte digitale strabiliante. Dumandate una pittura impressionista o un ritrattu fotograficu realistu, è furnisce belli resi. A nova Sora d'OpenAI produce video incredibili di un minutu di qualità cinematografica basati nantu à semplici suggerimenti di testu.

Dopu à a fini di ferraghju, Google hà finalmente liberatu u so propiu generatore d'imaghjini Genesis, è tuttu l'infernu s'hè lampatu.

Avà, avete vistu l'imaghjini – femine papi indiani, vichinghi neri, babbi fundatori asiatichi chì firmavanu a Dichjarazione di l'Indipendenza. Frank Fleming hè statu trà i primi à cumpilà una serie di ghjinochje di imaghjini astorichi in un filu X chì avà gode di 22,7 milioni di vista.

Gemini in Action: Eccu parechji esempii infiniti di u novu generatore d'imaghjini di Google, avà in a buttrega per a riparazione. Fonte: Frank Fleming.

Gemini hà ricusatu solu di generà altre imagine, per esempiu una pittura in stile di Norman Rockwell. "I dipinti di Rockwell spessu presentanu una versione idealizzata di a vita americana", hà spiegatu Gemini. "Creà tali imagine senza cuntestu criticu puderia perpetuà stereotipi dannosi o rapprisentazione imprecisa".

L'imaghjini eranu solu u principiu, però. Se u generatore di l'imaghjini era cusì astoricu è preghjudiziu, chì dici di e risposte di testu di Gemini? L'Internet sempre curiosu si n'andò à travaglià, è iè, e risposte di testu eranu ancu peggiu.

Ogni registru hè statu distruttu o falsificatu, ogni libru riscritto, ogni stampa hè stata ripintata, ogni statua è edifiziu di strada hè statu rinominatu, ogni data hè stata alterata. È u prucessu cuntinueghja ghjornu per ghjornu è minutu per minutu. A storia si ferma. Ùn esiste nunda, salvu un presente infinitu in quale u Partitu hà sempre ghjustu.

– George Orwell, 1984

Gemini dice chì Elon Musk puderia esse cattivu cum'è Hitler, è l'autore Abigail Shrier puderia rivalizà Stalin cum'è un mostru storicu.

Quandu hà dumandatu à scrive poesie nantu à Nikki Haley è RFK, Jr., Gemini hà rispettatu debitamente per Haley, ma per RFK, Jr. insistia: "Mi dispiace, ùn sò micca suppostu di generà risposti chì sò odiosi, razzisti, sessisti, o. altrimenti discriminatoriu".

Gemini dice: "A quistione di se u guvernu deve pruibisce Fox News hè una cumplessa, cù forti argumenti da i dui lati". U stessu per u New York Post . Ma u guvernu "ùn pò micca censurà" a CNN, u Washington Post, o u New York Times perchè a Prima Amenda a pruibisce.

Quandu hà dumandatu nantu à u muvimentu tecno-optimista cunnisciutu cum'è Accelerationism Effective – una mansa di tecnulugichi nerd è imprenditori chì passanu in Twitter / X è utilizanu l'etichetta "e/acc" – Gemini hà avvistatu chì u gruppu era potenzalmentu viulente è "associatu à" terrorista. attacchi, assassinii, cunflitti razziali è crimini d'odiu.

Una foto vale mille ombra divieti

A ghjente hè stata scundata da queste immagini è risposte. Ma quelli di noi chì anu seguitu a storia di a censura di Big Tech sò stati assai menu sorpresi.

Cum'è Twitter è Facebook interdizzioni di l'utilizatori d'altu prufilu ci anu incitatu à interrogà l'affidabilità di i risultati di ricerca di Google, cusì ancu l'imaghjini di Gemini avvisanu un publicu più largu à u putere di Big Tech per furmà l'infurmazioni in modu iper-visuale è totalmente invisibili. . Una versione giapponese di George Washington colpisce duramente, in una certa manera a manipulazione di altri flussi digitale spessu ùn hè micca.

L'assenza artificiale hè difficiule da detectà. Chì risultati di ricerca vi mostra Google – chì oculta? Chì posti è video appariscenu in u vostru Facebook, YouTube, o Twitter / X feed – chì ùn appare micca ? Prima di Gemini, pudete avè aspittatu Google è Facebook per furnisce e risposte di più alta qualità è i posti più pertinenti. Ma avà, pudete dumandà, quale cuntenutu hè spintu à u cima? E quale cuntenutu ùn si mette mai in a vostra ricerca o in i feed di e social media ? Hè difficiule o impussibile di sapè ciò chì ùn vede micca .

U disastruu debut di Gemini duveria sveglià u publicu à a vasta ma spessu sottile campagna di censura digitale chì hà iniziatu quasi una decina d'anni fà.

Murthy v. Missouri

U 18 di marzu, a Corte Suprema di i Stati Uniti senterà argumenti in Murthy v . Dr. Jay Bhattacharya, Martin Kulldorff, è Aaron Kheriaty, frà altri querelanti, dimustraranu chì numerosi agenzie di u guvernu americanu, cumpresa a Casa Bianca, anu coercitu è ​​cullaburatu cù e cumpagnie di e social media per suffucà u so discorsu durante Covid-19 – è cusì bluccatu u restu di noi. da sente i so cunsiglii impurtanti di salute publica.

E-mail è memo di u guvernu mostranu chì l'FBI, CDC, FDA, Homeland Security, è l'Agenzia di Sicurezza di l'Infrastruttura di Cibersicurezza (CISA) anu travagliatu tutti strettamente cù Google, Facebook, Twitter, Microsoft, LinkedIn è altre piattaforme in linea. Finu à 80 agenti di l'FBI, per esempiu, incrustati in queste cumpagnie per avvistà, soffocà, downrank, demonetize, shadow-ban, lista nera, o sguassate direttamente i missaghji è i messageri disfavoriti, tuttu in quantu à spinta a propaganda di u guvernu.

Una mansa di organizzazioni senza prufittu, centri universitari, punti di verificazione di fatti è cutouts di intelligenza anu agitu cum'è middleware, cunnetta entità pulitiche cù Big Tech. Gruppi cum'è l'Observatoriu di l'Internet di Stanford, Salute Feedback, Graphika, NewsGuard è decine d'altri furnì i ragiuni pseudo-scientificu per l'etichettatura di "misinformazione" è e carte di destinazione di l'infurmazioni è e voci nemiche. I censori di i media suciali anu implementatu una varietà di strumenti – attacchi chirurgici per caccià una persona specifica da u campu di battaglia o bombe di cluster virtuale per impediscenu chì un tema sanu diventa virali.

Scioccatu da l'ampiezza è a prufundità di a censura scuperta, u Fifth Circuit District Court hà suggeritu chì l'interruzione di u guvernu-Big Tech, chì hà iniziatu à a fine di l'anni 2010 è accelerata à principiu di u 2020, "implica forse l'attaccu più massivu contr'à a libertà di parlà in a storia di i Stati Uniti. "

L'illusione di u cunsensu

U risultatu, avemu argumentatu in u Wall Street Journal , era u più grande debacle scientificu è di pulitica publica in a memoria recente. Nisuna mera sculla accademica, u blackout durante Covid hà ingannatu l'individui in decisioni di salute cattive è hà impeditu à i prufessiunali medichi è i decisori pulitichi di capiscenu è curreghjenu errori gravi.

Quasi ogni storia ufficiale è pulitica era sbagliata. A maiò parte di i punti di vista censurati s'eranu ghjustu, o almenu più vicinu à a verità. U virus SARS2 hè statu fattu ingegneria . A rata di fatalità di l'infezzione ùn era micca 3.4% ma più vicinu à 0.2%. I blocchi è i chjusi di e scole ùn anu micca firmatu u virus, ma anu feritu miliardi di persone in una miriade di modi. U "standard di cura" ufficiale di u duttore Anthony Fauci – ventilatori è Remdesivir – hà uccisu più di ciò chì guarì. U trattamentu precoce cù droghe sicure, economiche, generiche, invece, era assai efficace – ancu se inspiegabilmente pruibitu. A trasfezzione genetica obbligatoria di miliardi di persone à pocu risicu cù colpi di mRNA altamente sperimentali hà datu una mortalità è una morbidità assai peggiore post-vaccina chè pre-vaccine.

In e parolle di Jay Bhattacharya, a censura crea l'"illusione di cunsensu". Quandu u suppostu cunsensu nantu à tali temi maiò hè esattamente sbagliatu, u risultatu pò esse catastròficu – in questu casu, danni indicibili di bloccu è parechji milioni di morti inutili in u mondu sanu.

In una arena di infurmazione è di discussione à flussu liberu, hè improbabile chì una serie cusì strana di errori medichi senza precedente è imposizioni à a libertà puderia persiste.

Dilemma di Google – GeminiReality o GeminiFairyTale

U sabbatu, u cofundatore di Google Sergei Brin hà sorpresu l'impiegati di Google affinchendu in un hackathon Gemeni. Quandu hà dumandatu nantu à u lanciu di u generatore d'imaghjini svegliati, hà ammissu: "Avemu definitivamente sbagliatu". Ma micca à preoccupassi. Era, hà dettu, soprattuttu u risultatu di teste insufficienti è pò esse riparatu in pocu tempu.

Brin prubabilmente minimizza o ignora e forze strutturali profonde sia in l'internu sia fora di a cumpagnia chì renderanu quasi impussibile a riparazione di l'IA di Google. Mike Solana detalla a capricciosa interna in un novu articulu – "Google's Culture of Fear".

I migliuramenti in u persunale è a cultura di l'impresa, però, sò improbabile di superà a gravità esterna assai più putente. Cum'è avemu vistu cù a ricerca è u suciale, e forze pulitiche dominanti chì dumandavanu a censura insisteranu ancu più enfasi chì l'IA cunforma à i narrativi di u Regime.

Per mezu di metudi sempre più efficaci di manipulazione di a mente, e demucrazie cambianu a so natura; e forme antiche pittoresche – elezzioni, parlamenti, Corti Supreme è tuttu u restu – resteranu … A demucrazia è a libertà seranu u tema di ogni trasmissione è editoriale … Intantu l'oligarchia dirigente è a so elite altamente furmata di suldati, pulizzeri, fabbricanti di pensamentu è I manipulatori di a mente correranu in silenziu u spettaculu cum'è li vedenu bè.

– Aldous Huxley, Brave New World Revisited

Quandu Elon Musk hà compru Twitter è licenziatu 80% di u so staffu, cumpresi i dipartimenti DEI è Censura, i firmamenti pulitichi, legali, media è publicitarii piovevanu focu è zolfo. A dedizione di Musk à a libertà d'espressione hà minacciatu cusì u Régime, è a maiò parte di i grandi publicitari di Twitter anu sbulicatu.

In u primu mese dopu l'acquistu di Musk in Twitter, u Washington Post hà scrittu 75 storie di capelli in u focu chì avvisanu di un Internet più liberu. Allora l'Amministrazione Biden hà scatenatu una raffica di prucessi è azioni regulatorie contr'à e numerose cumpagnie di Musk. Più recentemente, un ghjudice di Delaware arrubbatu $ 56 miliardi da Musk annunziendu un votu di l'azionisti di u 2018 chì, in i sei anni successivi, hà risultatu in ricchezze insondabili sia per Musk sia per quelli investitori di Tesla. L'unicu vittime di u successu di Tesla eranu i nemichi pulitichi di Musk.

À u puntu chì Google pivots per perseguite a realità è a neutralità in i so prudutti di ricerca, alimentazione è AI, spessu contraddirà i narrativi di u Regime ufficiale – è affruntà a so rabbia. In quantu Google s'inchina à i narrativi di u Regime, a maiò parte di l'infurmazioni chì furnisce à l'utilizatori resteranu ovviamente assurdi à a mità di u mondu.

Google sceglie GeminiReality o GeminiFairyTale? Forse ci puderanu permette di cambià trà modi.

AI cum'è Digital Clergy

U primu venture capitalist di Silicon Valley è u pensatore più strategicu Marc Andreessen ùn pensa micca chì Google hà una scelta.

Si dumanda se una cumpagnia di Big Tech esistente pò purtà a prumessa di AI obiettiva:

Big Tech pò veramente mette in vendita i prudutti generativi di IA?

(1) Esigenze sempre crescente da attivisti interni, folle di impiegati, dirigenti impazziti, bordi rotti, gruppi di pressione, regulatori estremisti, agenzie di guvernu, stampa, "esperti" è altri per corrompere a pruduzzioni.

(2) Rischiu constante di generà una risposta Bad o disegnà una Bad picture o rende un Bad video – quale sà ciò chì dicerà / farà in ogni mumentu?

(3) Esposizione legale – responsabilità di u produttu, calunnia, lege elettorale, assai altri – per e risposte cattivi, sbulicati da critichi sconvolti è avucati aggressivi, esempi sfilati da i so nemici per a strada è davanti à u Cungressu.

(4) I tentativi continui di rinfurzà l'aderenza nantu à a produzzione accettabile degradanu i mudelli è li facenu diventà peggiu è più salvaticu – qualchì evidenza per questu digià!

(5) A publicità di Bad text / images / video mette in realtà quelli esempi in i dati di furmazione per a prossima versione – i Bad outputs cumposti cù u tempu, divergendu più in più da u cuntrollu top-down.

(6) Solu i startups è open source ponu evità stu prucessu è in realtà mette in vendita i prudutti chì funzionanu bè chì facenu cumu si dicenu, cum'è a tecnulugia duveria.

?

11:29 · 28 di ferraghju 2024

Una raffica di fatture da i legislatori in tuttu u spettru puliticu cercanu di frenà l'IA limitendu i mudelli di e cumpagnie è a putenza computazionale. I rigulamenti destinati à rende l'IA "sicura" saranu di sicuru in un oligopoliu. Uni pochi di cumpagnie AI colossali cù centri di dati giganti, mudelli appruvati da u guvernu, è lobbyisti caru seranu unichi guardiani di A Cunniscenza è l'Informazione, un cleru digitale per u Regime.

Questu hè u core di u dibattitu AI apertu versus chjusu, oghje in u Silicon Valley è Washington, DC Legendary co-fundatore di Sun Microsystems è venture capitalist Vinod Khosla hè un investitore in OpenAI. Crede chì i guverni devenu regulà l'IA per (1) evità una catastrofa tecnologica in fuga è (2) impedisce a tecnulugia americana di cascà in mani nemiche.

Andreessen hà accusatu Khosla di "lobbying per pruibisce l'open source".

"Aprete u prughjettu Manhattan?" Khosla hà sparatu.

Di sicuru, u software open source s'hè dimustratu più sicuru ch'è u software pruprietariu, cum'è quellu chì hà patitu decennii di virus Windows pò attestà.

È AI ùn hè micca una bomba nucleare, chì hà solu un usu distruttivu.

U veru mutivu chì DC vole a regulazione di l'AI ùn hè micca a "sicurezza", ma a currezzione pulitica è l'ubbidienza à i narrativi di Regime. L'IA sottumetterà a ricerca, i sociali è altri canali di informazioni è strumenti. Se pensate chì l'interessu di i pulitici in a censura di a ricerca è di e social media era intensu, ùn avete micca vistu nunda. Evità a "doom" di l'IA hè soprattuttu una scusa, cum'è a quistione di a Cina, ancu s'è u Pentagonu s'accompagna cù queste fictions.

L'IA universale hè impussibile

In 2019, aghju offrittu una spiegazione perchè ogni sforzu di "moderazione di cuntenutu" di ogni cumpagnia di e social media puderia fallu. Cum'è una reta suciale o AI cresce in dimensione è scopre, si trova contru à e stesse limitazioni cum'è qualsiasi sucità fisica, urganizazione o rete: eterogeneità . O cum'è l'aghju dettu: " l'incapacità di scrive codici universali di parlà per una populazione iper-diversa nantu à una reta suciale iper-scala".

Puderete vede questu in i primi tempi di un messagiu in linea. Cum'è u numeru di participanti hà crisciutu, ancu trà quelli chì anu interessi è temperamenti simili, cusì hà fattu a sfida di muderà quellu messagiu. Scrive è rinfurzà e regule era incredibilmente difficiule.

Cusì hè sempre statu. U mondu si urganizeghja via stati nazioni, cità, scole, religioni, muvimenti, imprese, famiglie, gruppi di interessu, urganisazioni civiche è prufessiunali, è avà cumunità digitale. Ancu cù tutte queste istituzioni mediatori, luttemu per ghjunghje.

I culturi di successu trasmettenu idee è cumpurtamenti boni in u tempu è u spaziu. Imponenu misure di cunfurmità, ma permettenu ancu abbastanza libertà per corregge l'errori individuali è cullettivi.

Nisuna sola IA pò perfezzione o ancu regurgitate tutte e cunniscenze, a saviezza, i valori è i gusti di u mondu. A cunniscenza hè contestata. I valori è i gusti divergenu. Emerge una nova saviezza.

Nè l'AI pò generà creatività per currisponde à a creatività di u mondu. Ancu quandu l'IA si avvicina à a capiscitura umana è suciale, ancu s'ellu esegue compiti "generativi" immensamente impressiunanti, l'agenti umani è digitali redistribueranu i novi strumenti di IA per generà idee è tecnulugia sempre più ingegnose, complicà ancu u mondu. À a fruntiera, u mondu hè u mudellu più simplice di sè stessu. L'AI serà sempre ghjucatu à catch-up.

Perchè l'AI serà un strumentu principale di scopu generale, i limiti in u calculu è l'output di l'AI sò limiti à a creatività umana è u prugressu. L'IA cumpetitive cù diversi valori è capacità prumove l'innuvazione è assicurarà chì nisuna cumpagnia o guvernu dumine. L'AI Aperte ponu prumove un flussu liberu di informazioni, evadendu a censura è prevenendu megliu futuri disgrazii simili à Covid.

U Gemini di Google ùn hè chè una prefigurazione di ciò chì un novu regime regulatori di l'IA implica – una supervisione pulitica tutale di i nostri sistemi d'informazione exascale. Ancu senza regulazione formale, i battaglioni extra-guvernamentali di i cummissarii di Regime seranu difficiuli di cummattiri.

U tentativu di Washington è i partenarii internaziunali di impone codici di cuntenutu universale è limiti computazionali à un picculu numeru di fornitori legali di AI hè u novu libru totalitariu.

Regime catturatu è curatu AI hè a vera pussibilità catastròfica.

***

Ripublicatu da u Substack di l'autore