U debunker deepfake di OpenAI ùn serà micca abbastanza contr’à a misinformazione. Rapportu Nyt
OpenAI hà annunziatu un detector per identificà u cuntenutu fattu cù intelligenza artificiale chì pò aiutà à sguassate u prublema di deepfakes, ma ùn risolve micca. L'articulu di u New York Times
Cum'è l'esperti avvisanu chì l'imaghjini, l'audio è u video generati da AI puderanu influenzà l'elezzioni di u vaghjimu, OpenAI libera un strumentu cuncepitu per detectà u cuntenutu creatu da u so popular generatore d'imaghjini, DALL-E. Ma l'iniziu di l'intelligenza artificiale prominente ricunnosce chì questu strumentu hè solu una piccula parte di ciò chì serà necessariu per cummattiri cusì-chiamatu deepfakes in i mesi è anni à vene – scrive u New York Times .
FORZA E DEBLESSE DI U DETECTOR DEEPFAKE
U marti, OpenAI hà dettu chì sparterà u so novu detector deepfake cù un picculu gruppu di circadori di misinformazione per pudè pruvà l'uttellu in situazioni di u mondu reale è aiutà à identificà modi per migliurà.
"Questu hè di sparghje una nova ricerca", disse Sandhini Agarwal, un investigatore di sicurezza è pulitica OpenAI. "Hè veramente necessariu."
OpenAI hà dettu chì u so novu detector hà sappiutu identificà currettamente u 98.8% di l'imaghjini creati da DALL-E 3, l'ultima versione di u so generatore d'imaghjini. Ma a cumpagnia hà dettu chì l'uttellu ùn era micca pensatu per detectà l'imaghjini pruduciuti da altri generatori populari cum'è Midjourney è Stability.
Perchè stu tipu di detector deepfake hè basatu in probabilità, ùn pò mai esse perfettu. Dunque, cum'è parechje altre cumpagnie, senza prufitti è laboratori accademici, OpenAI travaglia per cumbatte u prublema in altri modi.
TIMBRI DI AUTENTICITÀ
Cum'è i giganti tecnologichi Google è Meta, a cumpagnia hà unitu à u cumitatu di guida di a Coalition for Content Provenance and Authenticity, o C2PA, una iniziativa destinata à sviluppà credenziali per u cuntenutu digitale. U standard C2PA hè un tipu di "etichetta alimentaria" per l'imaghjini, i video, i clips audio è altri schedari chì indicanu quandu è cumu sò stati pruduciuti o alterati, ancu cù AI.
OpenAI hà dettu ancu chì hà sviluppatu modi per "filigrana" i soni generati da AI in modu chì ponu esse facilmente identificati in u mumentu. A cumpagnia spera di fà queste filigrane difficili di sguassà.
UNA MISSIONE (QUASI) IMPUSSIBILE
Sustinutu da cumpagnie cum'è OpenAI, Google è Meta, l'industria di l'IA hè affruntata da una pressione crescente per cuntà u cuntenutu chì i so prudutti pruducianu. I sperti chjamanu l'industria per impediscenu à l'utilizatori di generà materiale ingannevole è dannosu è per offre modi per traccia a so origine è a distribuzione.
In un annu marcatu da elezzioni impurtanti in u mondu sanu, chjama à i metudi per seguità a provenienza di u cuntenutu di l'AI sò sempre più disperati. In l'ultimi mesi, l'audio è l'imaghjini anu digià influenzatu a campagna pulitica è u votu in lochi cum'è Slovacchia, Taiwan è l'India.
U novu detector deepfake d'OpenAI pò aiutà à risolve u prublema, ma ùn u risolverà micca. Cum'è Agarwal hà dettu: In a lotta contru i deepfakes, "ùn ci hè micca una bala d'argentu".
(Extrait de la revue de presse étrangère éditée par eprcomunicazione )
Questa hè una traduzzione automatica da a lingua italiana di un post publicatu in StartMag à l’URL https://www.startmag.it/innovazione/lo-smaschera-deepfake-di-openai-non-bastera-contro-la-disinformazione/ u Sat, 18 May 2024 05:43:44 +0000.