A ricerca scientifica hè messa in risicu da i ricercatori astuti chì utilizanu ChatGpt?
Micca solu articuli scientifichi scritti da intelligenza artificiale. Un studiu recente mostra chì ancu u prucessu di valutazione di i pari chì precede a publicazione puderia esse contaminatu da l'usu di chatbots cum'è ChatGpt
A mità di ferraghju si parlava d'un articulu scentificu chjaramente scrittu cù ChatGpt chì – incredibbilmente – hà ancu riesciutu à esse publicatu malgradu l'assurdità presente. Avà, un studiu recente hà dimustratu cumu l'usu di i chatbots di l'intelligenza artificiale è, in particulare quellu di l'OpenAI, contaminanu micca solu a scrittura di l'articuli stessi, ma ancu a peer-review, vale à dì a rivista di ricercatori di terzu è indipendenti chì duverebbe valutà l'affidabilità di a ricerca prima di a so publicazione.
AGGETTIVI "SUSPETTI".
U studiu, publicatu nant'à arXiv in pre-print è, dunque, per quessa, micca ancu sottumessu à peer-review, hà identificatu alcune parolle tipiche di un testu generatu da l'intelligenza artificiale (AI) chì palesanu l'usu di chatbots in u prucessu di rivisione. Frà questi, l'autori anu riportatu aggettivi pusitivi cum'è "commendable", "innovatore", "meticulous", "intricate", "rimarkable" è "versatile".
In particulare, analizendu più di 146,000 recensioni di i pari, secondu i circadori trà 6,5% è 16,9% di i testi "puderanu esse mudificati sustinienzialmente da i grandi mudelli di lingua (LLMs), vale à dì oltre a verificazione ortografica o picculi aghjurnamenti di scrittura".
Ùn hè chjaru se i circadori anu utilizatu l'arnesi per custruisce e so rivisioni da zero o solu per edità è migliurà scritti scritti, ma per l'informatica di l'Università di Stanford (California) è coautore di studiu Weixin Liang "pare chì quandu a ghjente ùn hà micca tempu. tendenu à aduprà ChatGpt ". Ùn hè micca una coincidenza chì l'aggettivi revelatori sò stati truvati più spessu in e recensioni mandate vicinu à u termini.
A DRIFT OF POST CHATGPT RESEARCH
Dapoi a so liberazione in nuvembre 2022, "ChatGpt hè stata utilizata per scrive numerosi articuli scientifichi, in certi casi ancu cum'è autore", dice Nature . Di più di 1 600 scientisti chì anu rispostu à un sondaghju di a rivista scientifica di u 2023, quasi 30% hà dettu chì avianu usatu AI generativu per scrive articuli, è circa 15% hà dettu chì l'avianu utilizatu per a so rivista di letteratura è scrive applicazioni di cuncessione.
Per Debora Weber-Wulff, un scientistu informaticu à l'HTW Berlin-Università di Scienze Applicate di Germania, l'idea di i chatbots chì scrivenu rapporti valutati per u travagliu ineditu hè "assai sconvolgente", postu chì questi strumenti spessu generanu informazioni ingannevoli o falsificate: "I sistemi AI anu" allucinazioni "è ùn pudemu micca sapè quandu sò allucinati è quandu micca".
U studiu hà ispiratu ancu altre ricerche , cum'è quella di Andrew Gray, ufficiale di supportu di bibliometria à l'Università College di Londra, chì, analizendu quante volte i stessi aggettivi sò accaduti in studii peer-reviewed publicati trà u 2015 è u 2023, hà osservatu u so "aumentu significativu" dapoi. l'arrivu di ChatGpt. A ricerca stima ancu chì l'autori di almenu 60 000 articuli publicati in u 2023 – pocu più di 1% di tutti i studii accademichi publicati quellu annu – anu utilizatu chatbots in una certa misura.
È sicondu a Natura , 2023 hè stata l'annu cù u più grande numeru di articuli scientifichi – più di 10 mila – ritirati da i ghjurnali chì l'avianu publicatu per via di dati inventati, di l'imaghjini digià publicati è di i testi generati cù AI.
U STUDIU GENERATU DA AI È PUBBLICU IN UNA RIVISTA SCIENTIFICA
Parlendu di l'intelligenza artificiale chì si intruduce in a ricerca accademica, un episodiu piuttostu sensazionale hè accadutu u ferraghju scorsu. A rivista scientifica Frontiers in Cell and Developmental Biology hà in fattu publicatu ricerche nantu à e cellule staminali in i picculi mammiferi cù errori testuali è imagine assurde senza chì ancu i circadori selezziunati per a rivista di i pari ùn anu nutatu nunda. Ratti nantu à duie zampe, cù quattru testiculi è un pene decisamente sproporzionatu, parolle senza significatu è didascalia cunfini di vulgarità.
Slights abbastanza evidenti chì suscitanu un dibattitu caldu nantu à e social media è trà l'accademici, chì infine furzà a rivista à ritirassi l'articulu . Sicondu alcuni esperti , sta tendenza hè duvuta à u fattu chì a ricerca hè sempre più dipendente di un sistema di incentivi ecunomichi chì premia l'autori è l'editori per a quantità di publicazioni scientifiche, chì inevitabbilmente affetta a qualità.
Cum'è u microbiologu olandese Elisabeth Bik, chì copre l'integrità di ricerca in Science Integrity Digest , hà osservatu, questu hè solu "un triste esempiu di cumu i ghjurnali scientifichi, editori è revisori parenti ponu esse ingenu – o forse ancu chjapputu – in termini di accettazione è publicazione di merda generata da intelligenza artificiale". E se un tali casu hà sappiutu ancu passà a rivista, per Bik, "imaghjini cù un aspettu più realisticu, generatu da l'intelligenza artificiale, anu prubabilmente digià intruduciutu in a literatura scientifica".
Questa hè una traduzzione automatica da a lingua italiana di un post publicatu in StartMag à l’URL https://www.startmag.it/innovazione/la-ricerca-scientifica-e-messa-a-rischio-dai-ricercatori-furbetti-che-usano-chatgpt/ u Sun, 21 Apr 2024 05:35:39 +0000.