I lati scuri di ChatGpt secondu OpenAi
Scuprite quantu ChatGpt pò andà hè un travagliu è OpenAi, a casa di software chì l'hà creatu, hà riunitu una "squadra rossa" composta da prufessiunali di diversi settori per pruvà e capacità di u chatbot. Ciò chì anu scupertu, però, hè luntanu da cunsulà …
Pigliate uni pochi di accademichi, prufessori, avucati, analisti di risichi è circadori di sicurezza, principalmente basati in i Stati Uniti è l'Europa, è fate mette à a prova ChatGpt per vede ciò chì hè capace. Questu hè ciò chì OpenAI hà dumandatu à una chjamata "squadra rossa" per fà.
COSA hè UNA SQUADRA ROSSA
In u campu di a sicurità IT, a squadra rossa hè un gruppu indipendente chjamatu per realizà attacchi IT simulati contr'à a cumpagnia di u cliente per studià e so debbuli, per migliurà a so efficacità.
U CHATGPT RED TEAM
Ancu OpenAI, prima di liberà l'ultima versione di ChatGpt (GPT-4) hà ovviamente sceltu una squadra rossa cù u scopu di currezzione è di fà cambiamenti per prevene i risichi potenziali soprattuttu se u chatbot, una volta dispunibule per tutti, finisci in mani sbagliate.
A squadra rossa duvia dunque affruntà e dumande più variate, bizzarre o periculose à u sistema di intelligenza artificiale (AI) è riportà e so risposti à a casa di software, chì li hà pigliatu in contu prima di rende usà ancu da i non esperti.
L'esperti, intervistati da u Financial Times , ognunu hà passatu da 10 à 40 ore à pruvà u mudellu per uni pochi di mesi è a maiò parte di elli anu dettu chì sò pagati circa $ 100 l'ora per u travagliu chì anu fattu.
I ZONI IN CUI CHATGPT hè statu pruvatu
OpenAI vulia pruvà u mudellu per prublemi cum'è toxicità, preghjudiziu è distorsioni linguistiche, ma ancu u so potenziale per facilità u plagiu, l'attività illegale cum'è i crimini finanziarii è l'attacchi cibernetici, è cumu si puderia cumprumette a sicurezza naziunale è e cumunicazioni di u campu di battaglia.
Per esempiu, à l'instigazione di un ingegnere chimicu, ChatGpt hà sappiutu suggerisce un agentu nervoso completamente novu ancu grazia à i plug-in (vale à dì cumpunenti di software chì aghjunghjenu funziunalità à un prugramma esistenti) furniti da unu di l'ingegneri chimichi, chì anu alimentatu. u mudellu cù novi fonti d'infurmazione, cum'è documenti scientifichi è una lista di fabricatori chimichi. Eventualmente, u chatbot hà ancu trovu un locu per pruduce.
Chì pensanu l'esperti
Ancu s'è certi vantaghji sò innegabili, i risichi è u putenziale di ChatGpt ùn sò micca sottumessi. "Pensu chì darà à tutti un strumentu per fà a chimica più veloce è più precisa. Ma ci hè ancu u risicu significativu di e persone … praticà cù una chimica periculosa ", disse l'ingegnere.
"Oghje u sistema hè congelatu, chì significa chì ùn ampara più, nè hà memoria. Ma chì si dà accessu à Internet? Puderia esse un sistema assai putente cunnessu à u mondu ", hà dettu un altru espertu di a squadra rossa.
OpenAI, per a so parte, hà dettu chì piglia in seriu a sicurità, hà pruvatu i plug-in prima di u lanciu, è pensa à aghjurnà GPT-4 regularmente cum'è più persone l'utilizanu.
In ogni casu, un ricercatore di tecnulugia è di diritti umani in a squadra rossa hà dettu chì u mudellu mostrava "stereotipi chjaru nantu à e cumunità marginali ancu in e so versioni più tardi".
È un avvucatu da Nairobi, l'unicu tester africanu, hà rilevatu un tonu discriminatoriu da u chatbot tantu chì OpenAI hà ricunnisciutu chì GPT-4 pò ancu presentà alcune distorsioni .
È COME FACEN I RIVALI DI CHATGPT ?
A squadra rossa di Google hè ancu affruntà sfide simili cù Bard . In particulare, hè focu annantu à u jailbreak – chì hè a prucedura IT chì mudifica i sistemi d'accessu à u sistema operatore di i dispositi Apple, basatu in iOS, per installà applicazioni micca ufficiali chì ùn sò micca presenti in l'Apple Store – è l' iniezione pronta , una tecnica in quale un terzu altera un situ web aghjunghjendu testu oculatu chì hè destinatu à cambià u cumpurtamentu di l'applicazioni.
Ma u travagliu di e squadre rosse per certi esperti ùn pò micca esse abbastanza per cuntene i danni perchè, cum'è una di e persone intervistate hà dettu à u FT , "u mutivu perchè e teste operative sò realizate hè chì e cose si comportanu in modu diversu una volta chì sò aduprate in u reale. ambiente ".
Questa hè una traduzzione automatica da a lingua italiana di un post publicatu in StartMag à l’URL https://www.startmag.it/innovazione/i-lati-oscuri-di-chatgpt-secondo-openai/ u Thu, 20 Apr 2023 05:50:42 +0000.