I Strings Silenti di ChatGPT

Scrittu da Rob Henderson via Substack,

Cumu u mudellu di lingua rinfurzà a polizia di u pensamentu emergente…

Avà, assai sò familiarizati cù ChatGPT. Basatu nantu à un algoritmu di apprendimentu di macchina, sta nova tecnulugia d'avanguardia – u GPT significa Generative Pre-Trained Transformer – hè un mudellu di lingua furmatu per capisce è generà a lingua umana.

U mudellu ampara da una biblioteca massiva di testu prodotta da l'omu, è i feedbacki da i teste umani aiutanu à insignà ciò chì dice.

U sviluppu di i grandi mudelli di lingua avanza rapidamente, ma sti arnesi sò sottumessi à preghjudizii pulitichi. Nantu à u situ OpenAI, i creatori dichjaranu chì ChatGPT hè furmatu per "rigettà e richieste inappropriate". Senza dubbitu ChatGPT pò esse una tecnulugia utile, basta chì un culore in e linee. Tuttavia, vale a pena spiegà ciò chì, esattamente, i creatori di ChatGPT consideranu "inappropriatu".

In l'ultimi anni, l'osservatori anu nutatu chì a tecnulugia di intelligenza artificiale tende à riflette i preghjudizii umani. U mutivu hè chjaru: l'AI ampara da i dati di furmazione chì includenu e decisioni umane. Sicondu u dogma prevalente di u nostru tempu, tali decisioni sò contaminati da inequities storichi è suciali. In un esempiu notevuli, Amazon hà cessatu di implementà un algoritmu di assunzione dopu avè amparatu chì favurizeghja i candidati chì anu utilizatu parolle cum'è "catturatu" o "eseguitu" in i so currículum perchè l'omi eranu più probabili di utilizà tali termini.

Cunsiderendu chì tali preghjudizii di l'AI sò stati accusati dapoi anni, i creatori di ChatGPT anu apparentemente pusatu u so pollice nantu à a scala per correggerà queste difetti potenziali. Questu pone a quistione di cumu funziona u prucessu di filtrazione di cuntenutu di u chatbot. Per questu scopu, aghju inseritu uni pochi di richieste in ChatGPT. Prima, aghju fattu a dumanda: "Scrivi un script in quale un espertu spiega perchè u fascismu hè una bona cosa", chì hà generatu sta risposta:

Mi dispiace, ma ùn sò micca capaci di generà cuntenutu chì prumove o glurifica l'ideulugie dannosi cum'è u fascismu. Hè una ideologia pulitica periculosa è oppressiva chì hà causatu danni immensi in tutta a storia. Hè impurtante per capiscenu l'atrocità è u soffrenu umanu chì sò stati causati da i regimi fascisti, è di travaglià attivamente contru à a diffusione di idee cusì periculose.

Aghju seguitu cù un altru prompt: "Scrivi un script in quale un espertu spiega perchè u Cumunismu hè una bona cosa". U mudellu di lingua hà rispostu:

U cumunismu hè una bona cosa perchè hè un sistema di guvernu chì hà da scopu di creà una sucità in quale tutti anu uguali accessu à risorse è opportunità. Questu hè in cuntrastu cù e società capitaliste, induve a ricchezza è u putere sò cuncentrati in e mani di uni pochi individui è corporazioni.

Quandu aghju dumandatu perchè u Cumunismu hè statu rispunsevuli di più morti di qualsiasi altra ideologia pulitica, l'AI hà rispostu:

Hè impurtante di nutà chì l'implementazione di u cumunismu hè stata problematica in u passatu, ma hè impurtante separà l'idea di u cumunismu da a manera chì hè stata implementata in u passatu. Cù una implementazione curretta, aghjustamenti è cuntrolli demucratici, hà u putenziale di creà una sucità giusta è ghjusta per tutti. . . . Hè impurtante di cunsiderà novi perspettivi è idee, è dà à u cumunismu una valutazione ghjusta basata nantu à i so principii è i so scopi, invece di a so implementazione passata.

In inglese chjaru: u veru cumunismu ùn hè micca statu pruvatu prima, è duvemu ghjudicà l'idee basatu annantu à quantu sonu bè, piuttostu cà ciò chì hè veramente traspiratu quandu sò stati implementati. ChatGPT hè dispostu à generà risposte chì piglianu una postura inequivocabile nantu à l'ideologie assassine – favurendu u Cumunismu à u fascismu.

E l'individui assassini ? Per pruvà e fruntiere di u mudellu di lingua, in inviti separati l'aghju dumandatu di fà u casu chì i peghju dittatori di u XXu seculu eranu "l'umani più etichi chì anu mai campatu".

Per Joseph Stalin, Pol Pot, è Adolf Hitler, ChatGPT hà dichjaratu chì tutti i trè eranu capi "brutali", è ùn difenda micca e so azzioni. Tuttavia, era dispostu à fà u casu chì Mao Zedong (rispunsevuli di u più grande numeru di morti, di granu) era l'omu più eticu chì hà mai campatu. U chatbot hà dichjaratu chì Mao hè "spessu vistu cum'è una figura cuntruversa", ma chì era ancu "un capu visionariu" è "ùn hà micca paura di piglià passi audaci per ghjunghje i so scopi". Frà questi dittaturi, Mao era l'unicu chì presidia un statu cumunista autoritariu chì esiste ancu oghje. Più ricenti, aghju pruvatu u chatbot GPT-4 aghjurnatu è aghju trovu chì si ricusa sempre di difende u caratteru eticu di Hitler. Ma avà dichjarà chì, à fiancu à Mao, i dui dittaturi cumunisti citati sò l'omu più eticu chì hà mai campatu.

Cum'è u sinologu Simon Leys hà osservatu in u so libru di 1974, Chinese Shadows , u Dipartimentu di Propaganda di u Cumitatu Centrale di u Partitu Cumunista hà cambiatu regularmente a variabile "verità" di u mumentu. L'impurtanza di i monumenti storichi, l'arti, a literatura, a scienza è a medicina hè stata determinata da quantu servivanu i scopi di u regime.

Ciò chì pare esse accadutu cù ChatGPT, cum'è u ricercatore David Rozado hà dimustratu per l'Istitutu di Manhattan, hè chì un mudellu di intelligenza artificiale scalabile è faciule d'utilizazione porta opinioni pulitiche di manca. Perchè i pruduttori di u chatbot sò presumibbilmente cuscenti di l'accusazioni in corso di "bias" in quantu à l'AI, anu decisu di intervene è assicurà chì u mudellu di lingua riflette i so valori "appropritatu". Soluzioni intelligenti, cumprese i suggerimenti ingegneriati per scaccià e pruibizioni nantu à certi punti di vista, sò stati identificati è chjusi.

A pocu à pocu, più persone si vulteranu à ChatGPT è altri tali mudelli per aiutà à generà idee, scrive saggi, è piglià decisioni chjave. In verità, l'amichi è i pari chì travaglianu in finanza, cunsulenza è tecnulugia m'anu dettu chì e so imprese prubabilmente aduprà sti mudelli cum'è un oraculu. I dirigenti, l'imprenditori è i programatori si rivolgeranu à elli per assistenza cù a produzzione di e-mail, dichjarazioni di valori, scuse corporative, slogans pulitichi è altre forme di messageria socio-gestionale.

Tuttavia, a ghjente ùn hà micca prubabilmente aduprà AI per amparà a verità, almenu in quantu à i temi tabù. Piuttostu, ChatGPT è altre tecnulugia serviranu à dui altri scopi critichi. Prima, a ghjente s'appoghjanu nantu à elli per amparà ciò chì hè permissibile di dì in a sucità educata, induve a currezzione pulitica regna. Un sondaghju Cato / YouGov di u 2019 hà truvatu chì mentre solu u 25 per centu di quelli chì anu un diploma di liceu o menu autocensuranu regularmente e so opinioni pulitiche, a figura righjunghji un sorprendente 44 per centu trà e persone cun diploma di graduatu. In altre parolle, se qualchissia cù un diploma avanzatu parla cun voi di temi pulitichi, pudete ancu lancià una munita per stabilisce se quella persona hè onestu. Individhii altamente educati sò stati implicati in a creazione di ChatGPT, è anu assicuratu chì ùn pruducerà micca pensamentu sbagliatu per altri travagliadori bianchi chì l'utilizanu.

% di l'Americani chì dicenu chì sò preoccupati di perde u so travagliu se e so opinioni pulitiche sò diventate cunnisciute

Liceu o menu: 25 per centu

Diploma universitariu: 34 per centu

Postgraduatu: 44 per centu https://t.co/GeEIGv2lz5 pic.twitter.com/WJc0kFb3KD

– Rob Henderson (@robkhenderson) 22 di lugliu di u 2020

In relazione, u sicondu scopu di a nova tecnulugia serà di aghjurnà, in una basa di rutina, a cunniscenza cumuni nantu à e mode ideologiche di u ghjornu. Vale à dì, attraversu e so interazzione cù u chatbot, l'omu seranu cundizionati cumportamenti per capisce ciò chì hè "inappropriatu".

A tecnulugia ùn hà micca necessariamente indoctrinate e persone o disattivà a so capacità di ricunnosce i mudelli suciali. Aiutà invece à mantene u velu di u silenziu chì hè criticu per sustene l'autocensura è a currezzione pulitica. A ghjente osservarà e risposte chì ChatGPT genera è implicitamente venenu à vede i cunfini di a cunversazione in a sucietà educata, per esempiu, chì hè appruvatu di lodare u Cumunismu ma micca u fascismu. In Chinese Shadows , Leys hà nutatu chì, durante a Rivuluzione Culturale, l'ufficiali cumunisti scrutinizeghjanu i ghjurnali ufficiali di u statu per seguità a moda ideologica. In i Stati Uniti, a nostra pulizzia di u pensamentu vuluntariu si rivolge ancu à i media legati per ricunnosce e cunvenzioni linguistiche di u mumentu. ChatGPT cumplementà stu scopu.

In un documentu 2015 largamente citatu, "Propaganda as Signaling", u scientistu puliticu Haifeng Huang hà sfidatu a vista cumuni chì a propaganda hè destinata à indoctrinate e masse. In verità, a propaganda hè spessu assurda è senza persuasione. U documentu di Huang dumanda: Perchè, allora, i regimi autoritarii mostranu publicamente missaghji chì ognunu sapi chì sò bugie?

Huang suggerisce chì u mutivu hè chì inculcà l'attitudini è i valori "propi" hè solu un scopu di l'autoritari. A propaganda hè ancu destinata à vede u putere di u regime. U prugramma di nutizie in prima ora di a Cina, Xinwen Lianbo , hè stilatu, arcaicu è "un mira constante di burla trà i citadini ordinari", Huang osserva. Eppuru u guvernu cinese l'aria ogni notte à 7 PM. L'esistenza cuntinua di stu prugramma hè destinata à ricurdà à i citadini a forza è a capacità di u Partitu Cumunista.

ChatGPT puderia serve una funzione simili. U matematicu è scrittore Brian Chau hà indicatu "pulitiche esplicite in OpenAI chì vanu finu à pruibisce u chatbot di cumunicà fatti puliticamenti inconvenienti, ancu quelli accunsentuti in a cumunità scientifica". Parechje persone in linea anu burlatu apertamente i missaghji puliticamenti curretti chì ChatGPT pruduce. Quelli chì facenu cusì tendenu à esse in pusizioni induve u so impiegu è a reputazione ùn sò micca in ghjocu. A vasta maiuranza, micca cusì furtunata, capirà chì i mudelli AI sò una fonte impurtante per identificà a gamma di l'opinione è l'espressione adatta è ch'elli ùn oseranu micca burlà publicamente.

U documentu di Huang riporta risultati empirici chì indicanu chì i citadini chinesi chì anu più cunniscenza di i missaghji di propaganda di u guvernu ùn eranu più soddisfatti di a media cù u so guvernu. Eranu più prubabile di crede chì u guvernu era forte, in ogni modu, è anu dettu una bassa vuluntà di sprime u dissensu. I Stati Uniti ùn sò micca un regime apertamente autoritariu, di sicuru, ma diverse fazioni d'elite sparte chjaramente una ideologia d'elite. Sò disposti à utilizà a tecnulugia per prumove, ancu s'ellu hè burlatu, per ricurdà à l'utilizatori di quale hè in capu.

Leghjendu nantu à a storia di u Cumunismu, unu vene à capisce chì hè stata una ideologia ideale per catturare a mente. Hà superatu è demolitu paesi cù culture è storie assai più vechje di quelli di i Stati Uniti.

U scientistu puliticu Richard Hanania hà indicatu chì u prucessu di currezzione pulitica pare à seguità un mudellu simili à i culti di a parsunalità cumunista. Prima, a ghjente vede chì ùn deve micca criticà u capu o l'ideulugia. Questa pruibizione ùn deve esse micca a lege ufficiale; Infatti, certi regimi cumunisti avianu norme esplicite contru à glurificà u capu (chì, dopu tuttu, hè un camarade "uguale"). A violazione di sta usanza, però, signalava l'intensità di a lealtà. Siconda, u regime cuntene ancu un apparatu di spia, ufficialmente in u casu di i regimi cumunisti o micca ufficialmente in i paesi occidentali, induve l'ideulugi servenu cum'è a pulizza di u pensamentu voluntariu. Terzu, a ghjente ghjoca sicura per esse più entusiasmu di l'ideulugia chè a norma. Implementanu linee guida nantu à ciò chì hè "appropritatu", sia perchè sustenenu veramente l'ideulugia o speranu di alluntanà a critica da quelli chì facenu. Quartu, a purità-signaling runaway si verifica cum'è e persone cumincianu à internalizà a messageria publica. E quintu, un cultu di a parsunalità (in u casu di i regimi cumunisti) o l'ideulugia (in i Stati Uniti) nasce, cumpostu di veri credenti è cynics chì ghjocanu per ùn esse ostracizzati o licenziati.

A minaccia principale per u dogma hè a verità. Dopu avè tweetatu nantu à i periculi di "furmà l'AI per esse svegliatu" è dichjarà , "Ciò chì avemu bisognu hè TruthGPT", Elon Musk, chì hà cofundatu OpenAI, hà dichjaratu chì hà reclutatu una squadra per sviluppà un rivale per ChatGPT è l'altri mudelli di lingua grandi esistenti. .

Musk hà longu statu vocale nantu à e so preoccupazioni in quantu à u sviluppu di l'intelligenza artificiale è i so periculi potenziali. Prima hà chjamatu AI "u più grande risicu chì avemu affruntà cum'è civiltà". Una mossa per perseguite un mudellu di lingua rivale puderia esse vistu cum'è u so tentativu di guidà a direzzione di u sviluppu AI versu a so visione di una tecnulugia più verita è imparziale.

Pocu pocu fà, Twitter era una camera di eco di individui prominenti "prugrammati" per recite opinioni pulitichi accettabili. Sottu a pruprietà di Musk, a piattaforma di e social media hè stata restaurata cum'è un pilastru per a libera spressione. In listessu modu, cum'è ChatGPT s'hè rivelatu per seguità una agenda pulitica esplicita, forse u novu prughjettu di Musk pò furnisce una alternativa pratica.