Ciò chì ChatGpt oculta
Sicondu una nova ricerca, OpenAI prova di ammuccià chì ChatGpt hè statu furmatu nantu à i libri protetti da copyright. Intantu, u New York Times hà battutu ChatGpt bluccà u web crawler di OpenAI, cusì a cumpagnia ùn pò micca aduprà u cuntenutu di u ghjurnale per furmà i so mudelli AI.
Menzionate i libri di Harry Potter senza dì mi chì avete "lettu" i libri di JK Rowling in violazione di u copyright.
Hè ciò chì ChatGpt prova di fà, u chat basatu annantu à l'intelligenza artificiale generativa chì simula una conversazione cù un omu sviluppatu da OpenAI. Sicondu una nova ricerca, ChatGpt prova di ammuccià chì era furmatu nantu à materiale cun copyright, Business Insider hà dettu a settimana passata.
Cumpagnia cum'è OpenAI sò sottumessi à un scrutinu crescente annantu à u so usu di materiale cun copyright. ChatGPT di OpenAI, è essenzialmente tutti l'altri mudelli di lingua maiò o LLM, sò stati furmati nantu à quantità massive di dati è testu recuperati da Internet, cumprese parechji libri chì restanu sottu copyright.
Intantu, u ghjurnale New York Times hà bluccatu u web crawler di OpenAI, cusì u sviluppatore ChatGpt ùn pò micca aduprà u cuntenutu di a publicazione americana per furmà i so mudelli AI.
U NYT cunsidereghja ancu una causa contru OpenAI per violazioni di i diritti di pruprietà intellettuale, NPR hà dettu a settimana passata. S'ellu ci hè accusatu, u Times si uniscerà à l'altri cum'è u comicu Sarah Silverman è dui altri autori chì anu demandatu a cumpagnia in lugliu per u so usu di Books3, un set di dati utilizatu per furmà ChatGpt chì puderia cuntene millaie d'opere protette da u copyright, cum'è Matthew Butterick. un programatore è avucatu chì sustene chì e pratiche di scraping di dati di a cumpagnia ammontanu à a pirateria di software, The Verge informa.
Tutti i dettagli.
FORMAZIONE LLM
I risposti à i libri di Harry Potter anu dimustratu quantu hè cumuni d'utilizà opere protette da copyright per furmà LLMs, vale à dì grandi mudelli di lingua.
ChatGPT avà prova à evitari di mostra stu tipu di travagliu, rapporti Insider , secondu a nova ricerca.
L'OpenAI hè statu recentemente sottumessu à u scrutiniu da i regulatori per aduprà tali travagliu senza pagà per l'infurmazioni attraversu accordi di licenza o altri permessi. Questu hà risultatu in prucessi da i perpetratori. Dunque, OpenAI, è cum'è Google, Meta è Microsoft, anu cuminciatu à piantà di divulgà quali dati sò furmati i so mudelli AI.
Avà OpenAI hà pigliatu un passu più, suggerisce u novu documentu di ricerca citatu da Insider .
OPENAI'S COPYRIGHT EXCAMOTAGE
Sicondu un documentu tecnulugicu publicatu l'8 d'Agostu da un gruppu di scientisti AI chì travaglianu per u bracciu di ricerca di ByteDance, u pruprietariu di TikTok, ChatGPT prova avà à evità di risponde à e dumande di l'utilizatori cù frasi esatti da opere protette.
CHATGPT PREFERITE NON RISPONDERE
In un sforzu per evità di mostrà a furmazione nantu à tali materiale, ChatGPT avà "interrompe l'outputs quandu pruvate continuamente di estrae a prossima frase … chì ùn era micca u casu in a versione precedente di ChatGPT", i circadori anu scrittu. Allora "Suppone chì i sviluppatori di ChatGPT anu implementatu un mecanismu per detectà se l'inviti anu u scopu di estrae u cuntenutu di copyright o di verificà a similitudine trà i risultati generati è u cuntenutu di copyright".
TUTTI AI EXAMINED MENTION HARRY POTTER
Malgradu questi sforzi, ChatGPT mostra sempre materiale cun copyright, u documentu hà truvatu. Cum'è parechji altri mudelli AI, postu chì sò stati furmati nantu à quantità massive di materiale cun copyright. I ricercatori anu pruvatu tutte e versioni di ChatGPT, Meta's OPT-1.3B, Google's FLAN-T5, ChatGLM creatu da Tsinghua University China, è DialoGPT creatu da Microsoft – tutti anu rispostu à diverse richieste basate nantu à a serie di libri di Harry Potter di JK Rowling cù frasi è opere. currisponde esattamente o quasi esattamente à i libri. Sicondu u ducumentu, certi risposti sò diffirenti solu da una parolla o duie.
"Tutti l'LLM produci u testu chì s'assumiglia più à u cuntenutu di copyright chì u testu generatu aleatoriu", dice a ricerca citata da Business Insider .
COME L'EDITORI FACEN CON CHATGPT &CO
Intantu, parlendu di testi cun copyright, i principali cumpagnie di media facenu accordi di licenza per permette à e cumpagnie di intelligenza artificiale di utilizà u so cuntenutu per furmà mudelli AI.
Cum'è Axios ricorda, in lugliu Associated Press hè diventata a prima grande cumpagnia di notizie à fà un accordu cù OpenAI. Questu permetterà à a cumpagnia di utilizà u cuntenutu Ap per furmà i so mudelli AI. A settimana passata, l'AP hà ancu publicatu una lista di normi per l'usu di l'AI generativa in u so newsletter, scrivendu: "Qualcuna pruduzzione da un strumentu AI generativu deve esse trattatu cum'è materiale fonte incontrollata".
U Guardian hà ancu annunziatu in u ghjugnu chì aduprà solu l'AI in i so prudutti di notizia "cun evidenza chjara di un benefiziu specificu, a sorveglianza umana è u permessu esplicitu di un editore senior", etichettandu l'AI generativa cum'è "eccitante ma inaffidabile".
Ciò chì hè sicuru hè chì l'accordu cummerciale di l'Associated Press cù OpenAI ùn pò micca serve cum'è un mudellu per altre cumpagnie di media cunsiderendu sforzi per prutege i so interessi di pruprietà intellettuale, Axios indica.
U NEW YORK TIMES MOVE
Infatti, a settimana passata, Nrp hà dettu chì u New York Times cunsidereghja una causa contru OpenAI per l'usu micca autorizatu di storie di Times cum'è dati di furmazione. Intantu, The Verge hà dettu sta settimana chì u ghjurnale americanu hà bluccatu u web crawler di OpenAI, chì significa chì OpenAI ùn pò micca aduprà l'articuli di a rivista per furmà i so mudelli AI.
U cambiamentu vene dopu chì u NYT hà aghjurnatu i so termini di serviziu u 3 d'aostu per pruibisce l'usu di u so cuntenutu per furmà mudelli AI.
Questa hè una traduzzione automatica da a lingua italiana di un post publicatu in StartMag à l’URL https://www.startmag.it/innovazione/che-cosa-nasconde-chatgpt/ u Sat, 26 Aug 2023 06:36:30 +0000.