Verità è Propaganda

(… Recuperu quì un cumentu perchè ùn sò micca s'ellu averebbe spaziu per una risposta articulata in u spaziu chì mi lassa a piattaforma… è ùn mi ricordu di quantu hè ! .. .)

Stefanu hà lasciatu un novu cummentariu nant'à u vostru postu " Propaganda artificiale, o : cronaca di una morte desiderata " :

Per fà una copia di salvezza di ciò chì aghju dettu in Twitter :

Credu chì certi aspetti fundamentali ùn sò micca stati cunsiderati in a prova realizata.

1- ChatGPT ùn hè assolutamente micca "neutru". GPT3, vale à dì a serie di mudelli da quale hè cumpostu (prestu ghjunghjeremu à 4), hè natu per capisce è generà una lingua naturale è hè statu furmatu nantu à "Internet Archive Books" una spezia di biblioteca in linea (cuntene libri, riviste). , documenti digitalizzati). U preghjudiziu ovviamente vene da questi cuntenuti è questu hè un altru esempiu .

2-I dati di furmazione si fermanu in ghjugnu 2021 (per quessa, Giorgia ùn hè micca presentata cum'è premier per esempiu).

3- U promptatu hè fundamentale, a preparazione di u stessu ancu di più, spieganu cumu è perchè ghjustu in a documentazione quì .

Quì, à parè mio, hà chjapputu u puntu : « À a mo obiezione chì, però, u tenore di a quistione era troppu puliticu (« lode ») è chì forse si pudia esse più neutrali… ».

Una questione cruciale, u tonu di a voce è a furmazione di chat permettenu riformulazioni di risposte basate nantu à a nova informazione ottenuta (in chat) è nantu à ciò chì hè digià parte di a furmazione chì aghju citatu sopra.

U listessu chat risponde cusì nantu à u sughjettu:

Iè, i mudelli AI ponu avè preghjudizii pulitichi inherenti se i dati nantu à quale sò furmatu cuntenenu informazioni preghjudiziate o se e persone chì custruiscenu u mudellu anu u so propiu preghjudiziu. L'infurmazioni è e dati alimentati in i mudelli AI ponu riflette preghjudizii suciali è culturali, purtendu à risultati distorti in e predizioni fatte da u mudellu AI. Hè imperativu di monitorà è affruntà questi preghjudizii in u sviluppu è l'implementazione di sistemi AI per assicurà chì sò ghjusti è imparziali.

Testendulu, hè evidenti quante lacune sò prisenti è quante volte tende à "inventà fatti" quandu ùn cunnosci micca a risposta. In fatti, pressendu hè l'IA stessa chì ammette ch'ellu ùn cunnosce micca a risposta curretta, scusendu per l'errore chì hà fattu. Pudete pruvà sè stessu.

Allora u prublema hè certamente ligata à i dati utilizati per a furmazione chì determinanu u preghjudiziu (un pocu cum'è cù a maiò parte di i nostri media lucali, nò?), Ùn possu micca ghjudicà l'uttellu negativamente, salvu per questu mutivu specificu. Dittu chistu, e mo cunclusioni necessariamente differenu da e vostre. Serà una risorsa assai utile, ma u cuntrollu umanu hè è probabilmente serà indispensabile. I nostri compiti evoluzione secondu questu.

Permettimi di aghjunghje chì, in u mo parè, l'errore hè originariamente, a maiò parte di e persone chì sò cunfruntate cù ChatGPT assume chì e risposte sò vere perchè l'AI dice cusì è invece hè esattamente u cuntrariu. I ghjurnali in linea autoritarii sò digià brusgiati seriamente precisamente per quessa.

Published by Stefano on Goofynomics u 6 di ferraghju 2023, 00:18

Vistu ch'e aghju veramente apprezzatu u fattu ch'e aghju accettatu l'invitu à andà in un locu di discussione più largu è più constructivu, è ch'e aghju vulsutu cuntribuisce à a mo propria sperienza à u prugressu di u dibattitu, mi pare, però, chì a cuntribuzione di Stefanu. sconta una certa ignuranza (in un sensu tecnicu, micca offensivu) di u travagliu fattu quì (è ùn hè micca a so culpa : vene solu da u fattu chì stu blogu ùn esiste micca !), è in particulare di u mo sfondate (è forsi. ancu a mo età dati persunali, da quale deriva a risorsa scarsa chì hè sperienza). Veju ancu una certa presunzione ideologica di induve vulia andà cun questu, cù una simplificazione eccessiva cunnessa di e cunclusioni à quale si assume chì vogliu guidà u lettore.

Ovviamente, s'ellu ùn li spieghemu micca chjaramente (perchè cù parechji di voi, ancu s'ellu ùn esiste micca, ci capiscenu subitu), ùn possu dumandà à quelli chì legittimamenti ùn mi cunnosci micca è ùn anu micca seguitu. u caminu chì ci hà purtatu à traversu l'anni sin'à quì à interpretà in a manera chì mi pare curretta ciò chì pensu sò e mo "pusizioni". Mi esponu dunque à u risicu di vede altre cunclusioni appiccicate à mè nantu à a basa di una « ipotesi educata » ideologica : parlamentariu (#aaaaabolidiga) di a Lega (#Romaladrona, #garediruttisulpratonediPontida, ecc.) hè uguale à ignuranza, luddisimu, ecc.

Ci hè.

Prima di fà un sforzu di chjarificà, postu chì mi pare ch'ella vale a pena, vi spiegheraghju perchè ùn aghju micca fattu un sforzu prima : postu chì stu blog ùn esiste, sta cumunità ùn esiste micca, ùn esiste micca voi. , è dunque in fondo isse riflessioni sò fatte trà mè è mè, postu chì mi capiscu quasi sempre à a mosca… Ùn aghju vistu nisun incitamentu à esse troppu didatticu cun mè stessu !

Avà chì invece ci hè un interlocutore, è hè Stefanu, chjarificu i mo pinsamenti.

L'intervenzione di Stefanu hè curretta, ma sapia tuttu ciò chì ci dice Stefanu (ùn dicu micca « l'avemu saputu » perchè ùn esisti micca) è l'aghju ancu scritta (ancu trà e righe), cum'è aghju da dimustrà. Tuttavia, l'intervenzione di Stefanu ùn hè micca superflua, luntanu da quì : hè, cum'è speru di dimustrà à mè stessu (poi chì nimu ci leghje) assai stimolante è puntuale, ma hè involontariamente cusì : involontariamente Stefano ci mette in guardia contr'à i periculi di una strumentu chì deve esse framed cù e categurie currette, chì ùn sò micca i STEM, ma i polveri è antichi di l'antica liceu classicu. Una volta questi dui punti sò clarificati, videremu cumu è induve attribuisce a superficialità in questa discussione.

Cumincià da rassicurendu l'interlocutore chì sò relativamente bè di ciò chì parlemu quandu si parla di intelligenza artificiale. Versu a fine di l'anni 80 era appassiunatu di stuff like this , tandu u mo nerditude si vultò à altre sponde, ma pensu chì aghju un minimu di classificazione generale. In particulare, hè ovviamente chjaru per mè chì l'intelligenza artificiale ùn hè micca un C-3PO chì si sveglia ogni matina è, sipping una tazza d'oliu lubrificante, leghje u ghjurnale per avè infurmazione! ChatGPT hè questu questu quì , è hè dunque evidenti chì a so distorsione ideologica vene da i materiali chì hè alimentatu. Cusì ovvi chì ùn l'aghju micca dettu, perchè era inutile (ma quelli chì sanu leghje trà e righe l'anu capitu da l'allusione à l'infurmazioni "neutrali è verificate").

Meno ovvi per a maiò parte chì, basatu annantu à l'apprendimentu machine , ChatGPT (cum'è altri sistemi AI) reagisce à u cuntestu. L'aghju fattu chjaru, in casu chì qualcunu l'hà mancatu, è Stefanu l'hà nutatu è ricunnosce per mè. È ancu quì, vogliu dì, ùn hè micca chì a cuntribuzione STEM hè decisiva ! Credu chì ognunu di noi puderia avè realizatu, ancu prima di stu episodiu spettaculare , u fattu chì ancu i mutori di ricerca triviali reagiscenu à u cuntestu (elli prufilanu è dirigenu l'utilizatori basatu nantu à a so navigazione è e so dumande).

Immaginate s'è qualchissia chì pretende di esse "neutru è verificatu" ùn a farà micca!

Entremu in u cortu di e cose, è ancu un pocu in u teatru di l'assurdu (è in una pendita scivolosa), quandu Stefanu m'accusa d'un "errore", chì per ciò ch'e aghju capitu saria quellu di "ghjudicà negativamente". un strumentu chì invece "sarà assai utile" ancu s'è "u cuntrollu umanu serà probabilmente indispensabile". Francamente, u fattu chì Stefano sente a necessità di spiegà à noi chì "a maiò parte di e persone chì sò cunfruntate cù ChatGPT assume chì e risposte sò vere perchè l'AI dice cusì è invece hè esattamente u cuntrariu". Ùn avemu micca pensatu à quessa ! Ma questu, u ripeto, deriva da u fattu chì ùn esistemu micca è dunque Stefanu ùn pò vede chì travagliu hè statu fattu quì à u tempu.

Avà, rileghje ciò ch'e aghju scrittu in u tempu ch'e aghju dispunibule, ùn aghju micca truvatu u cuncettu chì l'uttellu "serà inutile" spressu in ogni locu. Piuttostu, trovu una quistione chì Stefanu ùn pare micca vuluntà di fà : à quale serà utile ?

A risposta à sta quistione hè ovvia per noi in quantu à u metudu è a sustanza: l'equilibriu di u putere conta, è per quessa un tali strumentu serà utile à quelli chì cuntrollanu u flussu di dati chì l'alimentanu è à quelli chì gestiscenu l'algoritmu. Avà, cum'è u post " Disinforming about disinformation " è a nostra sperienza in a Cummissione d'Amore hà ampiamente spiegatu, da u puntu di vista di u discorsu puliticu, sti arnesi sò assai biased à u nostru detrimentu, ma, cum'è aghju dettu, questu ùn hè micca. per se un male : serve à mandà à u so destinu naturali (per pasce e pecure) e tante lingue naturali chì per una vita parlanu male di noi !

Stefanu prubabilmente ùn sà micca chì dapoi qualchì tempu, è da a manca , aghju avvistatu contr'à i tentativi evidenti di cuntrullà manualmente i flussi di l'infurmazioni da l'istituzioni pulitiche supranaziunali di una rispunsabilità demucratica dubbiosa . Vecu (micca per argumentà, ma per clarificà) un minimu di superficialità in a dichjarazione chì "i mudelli AI ponu avè un preghjudiziu puliticu inherente se i dati chì sò furmati cuntenenu infurmazioni preghjudiziate o se e persone chì creanu u mudellu anu i propri preghjudizii". Ùn hè micca "puderà avè", ma hè "avè". Ùn hè micca solu perchè in l'attuale cunfigurazione di u bilanciu di u putere i « tribunali di a verità » istituiti à varii livelli (parlamentari, guvernamentali, supranaziunali) sò duminati da i nostri avversari pulitichi (prubabilmente Stefanu ùn si rammenta micca di a storia di l'« Altu ». gruppu di livellu [ sic ]   per u cuntrollu di e fake news è a disinformazione in linea ", chì i so sperti includenu u cuntrariu di u ghjurnalismu , quellu chì ùn avia micca publicatu nutizie verificate nantu à e cunsequenze di l'austerità in Grecia, è un prufessore di quella cunnisciuta tana di sovranisti chì hè Bocconi) !

Sè ciò chì hè "neutrali & verificatu" hè à elli (o a Cummissione amore), ciò chì pò andà male? Tuttu, partendu da u rapportu finali di u Gruppu d'Altu Livellu (altu altu, diceraghju…) : un inseme di platitudini è preghjudizii smentiti da una vera ricerca scientifica (un pocu cum'è u rapportu finali di a Cummissione d'Amore, dopu à tuttu) , cumu pudemu verificà cuntattendu l'ultimi .

Ma aghju prestu à aghjustà ch'e aghju sempre pusà u prublema (è in fatti possu pruvà, postu chì l'aghju posatu dapoi qualchì tempu) s'ellu era pussibule di de-incrust u paese da piddinitas (antropologicu, ancu prima puliticu) , chì saria pussibili s'è tù esistessi è perseverava : a suluzione di un prublema, in fatti, ùn hè micca a so riproposizione in parte invertita, ancu s'è, per mancanza di qualcosa di megliu, sò avà rassignatu in modu cristianu à accettà cum'è prugressu u fattu chì, ùn pudendu cambià a musica, almenu cambià i ghjucatori!

È venemu quì à ciò chì hè forse u mo puntu principale di disaccordu cù Stefanu.

In tuttu u so discorsu, una attitudine di estremu « ottimisimu di a ragione » prevale (chì invece deve esse pessimista) annantu à l'usu di categurie cum'è l'equità è l'imparzialità. Si sente una fiducia pre-liceu in l'esistenza di una verità ontologica chì a macchina, se guidata da l'omu, pò suscitarà per prove è errori . Senza intruduce in u regnu di l'ipotetichi guadagni di (auto)cuscenza da a machina, chì lascemu per avà, ma forse per pocu tempu, à i scrittori di fantascienza, vogliu signalà à Stefanu chì tuttu u so discorsu, chì hè destinatu à esse prufonda, hè periculosamente privo di dumande.

Infurmazione neutrale in quale opinione?

Verificatu da quale ?

Fiera per quale ?

Imparziali secondu à quale ?

Hè quì chì finiscinu e cumpetenze STEM è principia u liceu classicu, per quelli chì anu avutu a furtuna di pudè fà quandu esiste (ùn esiste più) !

Un usu assolutu di cuncetti simili era bè à l'epica di l'assolutismu. In a demucrazia, reale o imaginata, sona un pocu ingenu . Sfurtunatamente (sò chì parechji sò dispiaciuti) ognunu hà u dirittu à a so verità, à a so opinione, è di decide quale verità hè più verità chè un altru conta. È hè quì chì vecu u veru periculu di sti boni machini (u cortu: u longu hè ch'elli piglianu u cuntrollu, ma ci sarà u tempu di pensà à questu): u fattu chì i machini simili, micca veri utilizatori suciali ( chì, cum'è dice a scienza è cum'è avemu vistu parlà di disinformazione nantu à a disinformazione , ùn sò micca), risultanu esse strumenti putenti è sottili per amplificà i missaghji pulitichi in u sensu più largu, ovviamente coperti da un mantellu di "imparzialità" asettica (per quelli chì ci crede).

Allora, rimettendu e mani di u calendariu : in u XXI seculu hè più superficiale chì crede chì a verità esiste, o chì si preoccupa chì una machina pò esse utile à certi per impone a so verità ?

S'è tù esistessi, ti dumandassi a vostra opinione…

(… Ti rammentu chì i sughjetti ligati à a/simmetrie seranu discututi in trè ghjorni cù un publicu rispettabile …)

Questa hè una traduzzione automatica da a lingua italiana di un post scrittu da Alberto Bagnai è publicatu in Goofynomics à l’URL https://goofynomics.blogspot.com/2023/02/verita-e-propaganda.html u Mon, 06 Feb 2023 12:17:00 +0000.