OpenAI “Esplora” Cumu generà in modu responsabilmente AI Porn

OpenAI, creatore di ChatGPT, hà recentemente divulgatu piani chì puderanu rivoluzionari l'applicazioni di a so tecnulugia, signalendu un cambiamentu potenziale in e so pulitiche di cuntenutu tradiziunale strette. Sicondu u prugettu di documentazione publicatu a settimana passata, a cumpagnia esplora cumu "intruduce in modu "responsabile" cuntenutu micca sicuru per u travagliu (NSFW) attraversu e so piattaforme . A nova pulitica hè evidenziata in una nota di cummentariu in u vastu documentu Model Spec, suscitando una discussione cumplessa nantu à u futuru di l'IA in a generazione di cuntenutu sensibile, rapporti Wired .

Unstable Diffusion hè un generatore d'imaghjini NSFW AI cù restrizioni di cuntenutu minimu. Unstable Diffusion

"Speremu se pudemu furnisce in modu rispunsevule l'abilità di generà cuntenutu NSFW in cuntesti adatti à l'età per mezu di l'API è ChatGPT", dice a nota. "Asperemu di capisce megliu l'aspettattivi di l'utilizatori è di a società di u cumpurtamentu di u mudellu in questa zona".

E pulitiche d'usu attuali pruibiscenu a generazione di materiali sessualmente espliciti o ancu suggestivi. Tuttavia, u ducumentu suggerisce una considerazione sfumata: a pussibilità di permette u cuntenutu NSFW in cuntesti adatti à l'età . Stu pivot potenziale ùn hè micca di prumove un cuntenutu esplicitu indiscriminatamente, ma piuttostu di capiscenu l'aspettattivi di a società è di l'utilizatori per guidà u cumpurtamentu di u mudellu in modu rispunsevule.

OpenAI cunsidereghja cumu a so tecnulugia puderia generà in modu rispunsevule una gamma di cuntenutu diffirenti chì puderia esse cunsideratu NSFW, cumprese slurs è erotica. Ma a cumpagnia hè particulare nantu à quantu materiale sessualmente esplicitu hè descrittu.

In una dichjarazione à WIRED, u portavoce di a cumpagnia Niko Felix hà dettu " ùn avemu micca intenzione per i nostri mudelli per generà porn AI ". Tuttavia, NPR hà infurmatu chì Joanne Jang d'OpenAI, chì hà aiutatu à scrive u Model Spec, hà cuncessu chì l'utilizatori anu da fà a so propria mente se a so tecnulugia pruduce cuntenutu per adulti, dicendu "Dipende da a vostra definizione di porn". – Filatu

A preoccupazione si estende oltre l'implicazioni dirette di u cuntenutu NSFW. Danielle Keats Citron, prufissore di dirittu à l'Università di Virginia, hà enfatizatu e ripercussioni suciali più larghe, nutendu chì e violazioni intime di a privacy ponu impactà severamente a vita di l'individui mirati, restringendu e so opportunità è a sicurità persunale.

Di sicuru, ci sò digià assai generatori di cuntenutu NSFW AI chì utilizanu cose cum'è Stable Diffusion, assai di e quali cunfinanu (o peggiu) sfruttamentu virtuale di i zitelli chì simu sicuri chì stu tippu difendessi.

"A violazione di a privacy intima, cumpresi i video di sessu falsi è altre immagini intime sintetizzate senza cunsensu, sò rampanti è dannu assai", disse. " Avemu avà un supportu empiricu chjaru chì mostra chì tali costi di abusu miranu à l'individui opportunità cruciali , cumpresu per travaglià, parlà è esse fisicamente sicuru". Sicondu Citron, l'abbracciu potenziale di OpenAI di u cuntenutu NSFW hè "allarmante".

L'annunziu di OpenAI affronta un dibattitu in corso annantu à l'equilibriu trà l'innuvazione tecnologica è a responsabilità etica – in particulare quandu si tratta di stabilisce precedenti per cumu e tecnulugia AI puderanu trattà u cuntenutu sensibile in u futuru. L'ingaghjamentu cù diverse parti interessate, cum'è a portavoce di OpenAI Grace McGuire hà dettu à l'outlet, nutendu chì u Model Spec era un tentativu di "portà più trasparenza annantu à u prucessu di sviluppu è ottene una sezione trasversale di prospettive è feedback da u publicu, i decisori pulitichi è l'altri attori. ."

A principiu di questu annu, u capu di a tecnulugia di OpenAI, Mira Murati, hà dettu à u Wall Street Journal chì "ùn era micca sicura" se a cumpagnia permetterà in u futuru di fà e rappresentazioni di nudità cù l'utile di generazione di video Sora di a cumpagnia.

A pornografia generata da AI hè diventata rapidamente una di l'applicazioni più grande è preoccupante di u tipu di tecnulugia AI generativa chì OpenAI hà pioniere. I cosi-chiamati deepfake porn – images o video espliciti fatti cù strumenti di IA chì rapprisentanu persone reali senza u so accunsentu – hè diventatu un strumentu cumuni di fastidiu contr'à e donne è e donne. In marzu, WIRED hà infurmatu nantu à ciò chì parenu esse i primi minori americani arrestati per a distribuzione di nudi generati da AI senza accunsentu, dopu chì a polizia di Florida hà accusatu dui adolescenti per avè fattu l'imaghjini chì raffiguranu i so cumpagni di scola media. – Filatu

Mentre e pulitiche d'utilizazione di OpenAI pruibiscenu l'impersonificazione senza permessu, e decisioni prese da OpenAI puderanu avè effetti di vasta portata. Di sicuru, si capiscenu ancu chì s'ellu ùn cumpete micca in questu spaziu, l'AI di qualcunu altru duminerà solu , lascendu OpenAI cum'è u gimp.