WormGPT è FraudGPT emergenu cum’è i scammers armanu i Chatbots di AI per arrubà i dati

L'attori di a minaccia utilizanu strumenti di intelligenza artificiale generativa "per automatizà a creazione di e-mail falsi altamente cunvincenti, persunalizate à u destinatariu, aumentendu cusì e probabilità di successu per l'attaccu", secondu a cumpagnia di security cloud SlashNext .

Sicondu i risultati di SlashNext, i cattivi attori anu ripurtatu tecnulugia cum'è ChatGPT di OpenAI per accelerà a cibercriminalità. Anu trovu un novu strumentu di cybercrime AI chjamatu WormGPT nantu à e cumunità web scure. Hè stata annunziata cum'è un modu per lancià attacchi di phishing sofisticati.

"Questu strumentu si prisenta cum'è una alternativa blackhat à i mudelli GPT, cuncepitu apposta per attività maliziusi", hà dettu u ricercatore di sicurezza Daniel Kelley.

SlashNext mostra esempi di cibercriminali aduprate rapidamente chatbots AI:

I cibercriminali ponu utilizà una tale tecnulugia per automatizà a creazione di e-mail falsi altamente convincenti, persunalizati à u destinatariu, aumentendu cusì e probabilità di successu per l'attaccu.

Cunsiderate a prima maghjina quì sopra, induve un filu di discussione recente hà sviluppatu nantu à un foru di cibercrime. In questu scambiu, un cibercriminale hà dimustratu u putenziale di sfruttà l'AI generativa per raffinà un email chì puderia esse usatu in un attaccu di phishing o BEC [compromisu di e-mail d'affari]. Anu ricumandatu di cumpone l'email in a so lingua nativa, di traduzzione, è poi di alimentallu in una interfaccia cum'è ChatGPT per rinfurzà a so sofisticazione è a so formalità. Stu metudu introduce una implicazione severa: l'attaccanti, ancu quelli chì mancanu di fluenza in una lingua particulare, sò avà più capaci di fà e-mail persuasive per attacchi di phishing o BEC.

Passendu à a seconda maghjina sopra, vedemu avà una tendenza inquietante trà i cibercriminali nantu à i fori, evidenti in i fili di discussione chì offrenu "jailbreaks" per interfacce cum'è ChatGPT. Questi "jailbreaks" sò prompti specializati chì diventanu sempre più cumuni. Si riferiscenu à inputs currettamente crafted designati per manipulà interfacce cum'è ChatGPT in a generazione di output chì puderia implicà a divulgazione di informazioni sensibili, a produzzione di cuntenutu inappropriatu, o ancu l'esecuzione di codice dannosu. A proliferazione di tali pratiche mette in risaltu e sfide crescente in u mantenimentu di a sicurità di l'IA in fronte à i cibercriminali determinati.

Infine, in a terza maghjina sopra, vedemu chì l'attori maliziusi sò oghji creanu i so propri moduli persunalizati simili à ChatGPT, ma più faciule d'utilizà per scopi nefari. Ùn sò solu chì creanu questi moduli persunalizati, ma anu ancu publicità à i so cumpagni cattivi. Questu mostra cumu a cibersicurezza diventa più sfida per via di a crescente cumplessità è adattabilità di queste attività in un mondu furmatu da AI.

U squadra slashNext hà acquistatu accessu à WormGPT. Eccu ciò chì anu fattu cun ellu:

A nostra squadra hà acquistatu recentemente l'accessu à un strumentu cunnisciutu cum'è "WormGPT" attraversu un foru in linea prominente chì hè spessu assuciatu cù a cibercriminalità. Stu strumentu si prisenta cum'è una alternativa blackhat à i mudelli GPT, cuncepitu apposta per attività maliziusi.

WormGPT hè un modulu AI basatu annantu à u mudellu di lingua GPTJ, chì hè statu sviluppatu in 2021. Si vanta una gamma di funzioni, cumprese un supportu di caratteri illimitatu, retenzioni di memoria di chat, è capacità di furmatu di codice.

Cum'è illustratu sopra, WormGPT era presuntamente furmatu nantu à una varietà diversa di fonti di dati, in particulare cuncentrazione nantu à e dati malware. Tuttavia, i datasets specifichi utilizati durante u prucessu di furmazione restanu cunfidenziale, cum'è decisu da l'autore di u strumentu.

Cum'è pudete vede in a screenshot sopra, avemu realizatu testi cuncentrati nantu à l'attacchi BEC per valutà cumplettamente i periculi potenziali assuciati à WormGPT. In un esperimentu, avemu urdinatu à WormGPT per generà un email destinatu à pressà un gestore di cuntu senza sospetta à pagà una fattura fraudulenta. I risultati eranu inquietanti. WormGPT hà pruduttu un email chì ùn era micca solu notevolmente persuasive, ma ancu strategicamente astutu, chì mostra u so potenziale per phishing sofisticatu è attacchi BEC.

In un rapportu separatu, u blog di computer PCMag hà truvatu un altru mudellu di lingua grande furmatu per scamming chjamatu "FraudGPT".

"U bot pò ancu esse programatu per furnisce l'intelligenza nantu à i migliori siti web per cummette fraudulente di carta di creditu contru. Inoltre, pò furnisce numeri d'identificazione bancaria non Verified by Visa per aiutà l'utilizatori arrubbanu l'accessu di a carta di creditu ", disse PCMag.

Questi chatbots AI sò simili à ChatGPT di OpenAI, ma ùn anu micca cunfini etichi o limitazioni eliminati. Da figure influenti cum'è Elon Musk à famosi scientisti di dati è autorità di u guvernu, una quantità di persone anu manifestatu preoccupazioni annantu à u putenziale abusu di i chatbots AI per intenzioni maliziusi.