L’IA hè digià ingannatu l’elettori indiani? Rapportu Nyt
In India ci hè una vera fabbrica di avatars di pulitici lucali chì, grazia à l'intelligenza artificiale (AI), sò credibili, è ancu ecunomichi. Parlanu tutte e diverse lingue di u paese è s'indirizzanu à l'elettori per nome. Cumu è in chì misura influeneranu l'elezzioni ? L'articulu di u New York Times
Per fà una idea di a direzzione chì l'intelligenza artificiale piglia in e campagne elettorali, basta à fighjà l'India, a più grande demucrazia in u mondu, chì andarà à u votu u venneri – scrive u New York Times .
L'AVATARI DI PARTI MODI, CREDIBLES E ECONOMICI
Una versione generata da AI di u Primu Ministru Narendra Modi, spartuta in WhatsApp, mostra e pussibilità di un impegnu iperpersonalizatu in un paese cù quasi un miliardo di votanti. In u video – un clip dimostrativu chì a fonte ùn hè micca chjaru – l'avatar di Modi s'indirizza direttamente à una seria di votanti, chjamendu per nome.
Tuttavia, ùn hè micca perfettu. Modi pare chì porta dui paia di occhiali diffirenti è alcune parti di u video sò pixelate.
U partitu di Modi manda video via WhatsApp in quale i so avatars AI consegnanu messagi persunali à elettori specifichi nantu à i benefici di u guvernu chì anu ricevutu è dumandanu u so votu.
Questi missaghji video ponu esse generati automaticamente in qualsiasi di e decine di lingue indiane parlate da l'elettore. U stessu passa per i missaghji telefunini da i chatbots alimentati da AI chì chjamanu l'elettori in a voce di i capi pulitici è dumandanu u so sustegnu.
Stu tipu di cumunicazione richiede una frazzioni di u tempu è di soldi spesi in campagni elettorali tradiziunali è hà u putenziale di diventà un strumentu essenziale in l'alizzioni.
DISINFORMAZIONE À A DISINFORMAZIONE
Tuttavia, cum'è a tecnulugia entra in a scena pulitica, ci sò pochi guardrails chì impediscenu u so misu. I chatbots è i video persunalizati ponu pare più o menu innocu. Ma i sperti temenu chì, cum'è a tecnulugia avanza è diventa più diffusa, l'elettori averebbenu più difficultà à distingue trà i missaghji veri è artificiali.
"Quest'annu serà u Wild West è un spaziu AI micca regulatu", hà dettu Prateek Waghre, direttore esecutivu di a Fundazione Internet Freedom, un gruppu di diritti digitale basatu in New Delhi. "A tecnulugia – hà aghjustatu – entra in un paisaghju mediaticu digià contaminatu da a disinformazione".
In u mondu, l'elezzioni sò diventate un terrenu di prova per u boom di l'IA. L'arnesi sò stati utilizati per trasfurmà un candidatu presidenziale argentina in Indiana Jones è un Ghostbuster. Durante e primarie di New Hampshire, l'elettori anu ricevutu messagi di robocall chì li urgevanu à ùn vutà, in una voce chì hè stata probabilmente generata artificialmente per s'assumiglia à quella di u presidente Biden.
In India, u Partitu Bharatiya Janata (BJP) di Modi è u Cungressu Naziunale Indianu di l'uppusizione si sò accusati l'un l'altru di sparghje in ligna un cuntenutu deepfake legatu à l'elezzioni.
I POLITICHI CAZZI DI AI
Un avanzatu di sta nova fruntiera indiana si trova in u statu di u desertu occidentale di Rajasthan. À a terra aperta di un edifiziu residenziale in un vicolo polveroso, un abbandonatu di l'università di 31 anni, Divyendra Singh Jadoun, gestisce una startup di intelligenza artificiale, The Indian Deepfaker.
A so squadra di nove hà fattu publicità cù avatari generati da AI di attori è attrici di Bollywood. Ma prima di questu annu, i partiti è i pulitici cuminciaru à dumandà à ellu di fà per elli ciò chì avia fattu per e celebrità. Di e 200 richieste, Jadoun hà dettu chì hà accettatu 14.
Trà quelli chì anu ricevutu u trattamentu hè Shakti Singh Rathore, un membru di BJP di 33 anni. U so travagliu sta stagione elettorale hè di informà quante più persone pussibule nantu à i prugrammi è e pulitiche di Modi. Allora hà decisu di creà una replica di ellu stessu.
"L'intelligenza artificiale hè maravigliosa è a strada avanti", disse Rathore mentre si stalla davanti à una videocamera in l'uffiziu di The Indian Deepfaker, chì si preparava à incarnà in digitale. "Cumu altrimenti puderia ghjunghje à i beneficiari di i prugrammi di Modi in un numeru cusì grande è in un periodu cusì cortu?"
Mentre Rathore aghjustava una sciarpa di ziferanu cù u logu di u partitu appiccicatu intornu à u collu, Jadoun li disse: "Fighjate in a camera è parlate cum'è se a persona hè pusata davanti à voi".
A FABRICA INDIANA DI AVATAR IA
Cù circa 5 minuti di materiale, cumpresa una registrazione audio è foto di prufilu, Jadoun si mette à travaglià. Ellu disse chì usa sistemi AI open-source è si basa nantu à elli cù u so propiu codice. Prima, a faccia di Rathore hè stata isolata da ogni quadru di a registrazione. Allora e dati riguardanti i so caratteristiche somatici sò stati cullati, cumpresa a dimensione di a so faccia è labbra è u so sguardu.
Jadoun hà dettu chì u settore di dati hè statu alimentatu in mudelli di intelligenza artificiale chì amparanu à predichendu mudelli faciali. "Avete bisognu di cuntinuà à mette à traversu u prugramma è fine-tuning a faccia finu à ottene u megliu visu pussibule", disse.
Un "algoritmu di clonazione" analizeghja ancu a registrazione audio, imparendu a cadenza è l'intonazioni di a voce. Jadoun hà dettu chì spessu piglia da 6 à 8 ore di editazione per perfezziona a sincronia di faccia è labbra à e parolle. U restu hè largamente automatizatu.
In una manifestazione, hà pigliatu circa 4 minuti per creà circa 20 video di salutu persunalizati.
Jadoun hà dettu chì a so squadra pò pruduce finu à 10 000 video à ghjornu. Per i travaglii più grande è sensibili à u tempu, affittarà unità di trasfurmazioni grafiche.
UN AI CHE RIGGI TUTTI
L'IA generativa pò ancu eliminà e barriere linguistiche, chì hè particularmente utile in un paese linguisticamente diversu. L'avatar di Rathore pò esse programatu per parlà lingue regiunale è ghjunghje in i cantoni più remoti di l'India.
I partiti pulitichi ùn mandanu micca solu messagi video à l'elettori, usanu ancu voci clonate per chjamà e persone direttamente, grazia à i chatbots cum'è ChatGpt.
In u passatu, quandu un rappresentante di u partitu hà chjamatu l'elettori, anu appesu, Rathore hà dettu. "Ma avà, quandu un capu lucale dice u nome di un votante, catturà immediatamente a so attenzione".
Durante a cunversazione, u chatbot dumanda nantu à i prugrammi di u guvernu lucale chì offrenu elettricità gratuitu o finanziamentu per startups. Jadoun hà dettu chì e chjama sò state arregistrate è trascritte per u cuntrollu di qualità è a furmazione AI.
Rathore hà dettu chì hà spesu circa $ 24,000 di i so soldi per ghjunghje à circa 1,2 milioni di persone per mezu di i so messagi video è e telefonate è per riceve infurmazioni nantu à quelli chì ùn anu micca rispostu. L'hà chjamatu un investimentu in u so avvene cù u BJP.
L'IMPORTANZA DI PERSONALIZZA
Nikhil Pahwa, editore di MediaNama , chì copre i media digitale in India, hà dettu chì i missaghji persunalizati puderanu esse particularmente putenti trà l'Indiani.
"L'India hè un paese induve a ghjente piace à piglià e so foto cù somiglianti di celebrità", disse. "Allora, s'elli ricevenu una telefonata da, per esempiu, u primu ministru, parlendu cum'è s'ellu li cunnosci, induve vivenu è quali sò i so prublemi, seranu veramente entusiasmati da questu".
Waghre di l'Internet Freedom Foundation dubita chì u cuntenutu AI hè abbastanza persuasivu per influenzà l'alizzioni di questu annu. Ma hà dettu chì l'effetti à longu andà puderanu esse problematicu. "Una volta chì sò normalizzati in a dieta di l'infurmazioni di e persone, chì succederà sei mesi dopu quandu ci sò video ingannevoli?"
Modi stessu hà discututu l'aghjunzione di disclaimers per u cuntenutu generatu da l'IA, in modu chì e persone ùn sò micca "ingannati". Jadoun è rapprisintanti di duie altre start-up AI in India anu creatu ciò chì chjamanu un "manifestu di coalition AI", impegnendu à prutege a privacy di e dati è difende l'integrità elettorale. Per esempiu, i video da Deepfaker di l'India sò etichettati "generati da AI" è i so chatbots publicità chì sò voci generate da AI, Jadoun hà dettu.
Narendra Singh Bhati, 28 anni, un pruprietariu di un resort in Rajasthan, hà ricevutu una chjama generata da AI da Rathore sta settimana. Bhati hà dettu ch'ellu era impressuatu da a so persunalizazione è ùn hà micca capitu chì a chjama era generata da AI, ancu s'è u script l'hà dettu chjaramente. "Aghju ancu dettu addiu à u Signore Rathore à a fine", disse Bhati.
(Extrait de la revue de presse étrangère éditée par eprcomunicazione )
Questa hè una traduzzione automatica da a lingua italiana di un post publicatu in StartMag à l’URL https://www.startmag.it/mondo/lia-sta-gia-intortando-gli-elettori-indiani/ u Sat, 27 Apr 2024 06:57:22 +0000.