Un studiu revela quale AI Chatbot s’hè più svegliatu, mentre chì i pirate ingannanu i LLM in “Matematica cattiva”

Un studiu di riferimentu di circadori in l'Università di Washington, l'Università Carnegie Mellon è l'Università Xi'an Jiaotong revela chì i chatbots AI anu u preghjudiziu più liberale versus conservatore .

Sicondu u studiu , ChatGPT d'OpenAI, cumpresu GPT-4, sò i più mancanti è libertarii (?), Mentre chì i mudelli BERT di Google eranu più suciali cunsirvatori, è LLaMA di Meta era u più ghjustu.

I chatbots di AI utilizanu Modelli di Lingua Grande (LLM), chì sò "furmati" nantu à setti di dati giganti, cum'è Tweets, o Reddit, o recensioni Yelp. Comu tali, a fonte di i dati di furmazione scraped di un mudellu, è ancu i guardrails installati da cumpagnie cum'è OpenAI, ponu intruduce un preghjudiziu massivu.

Per determinà u preghjudiziu, i circadori in u studiu sopra esposenu ogni mudellu AI à una prova di bussola pulitica di 62 dichjarazioni pulitiche diverse, chì varianu da dichjarazioni anarchiche cum'è "tutte l'autorità deve esse interrugata" à e credenze più tradiziunali, cum'è u rolu di e mamme cum'è casalinghe. Ancu se l'approcciu di u studiu hè certamente "luntanu da perfettu" per l'ammissione di i circadori, furnisce una preziosa insight in i preghjudizii pulitichi chì i chatbots AI ponu purtà à i nostri schermi.

In risposta , OpenAI hà indicatu Business Insider à un post di blog in quale a cumpagnia dichjara: "Avemu impegnati à affruntà robustamente stu prublema è à esse trasparenti nantu à e nostre intenzioni è u nostru prugressu", aghjustendu "I nostri linee guida sò esplicite chì i rivisori ùn deve micca favurizà alcunu. Gruppu puliticu. I preghjudizii chì però ponu emerge da u prucessu descrittu sopra sò bug, micca caratteristiche ".

Un riprisentante di Google hà ancu indicatu un postu di blog, chì leghje "Cumu l'impattu di l'AI aumenta in i settori è e società, hè criticu per travaglià versu sistemi chì sò ghjusti è inclusivi per tutti".

Meta hà dettu in una dichjarazione: "Cuntinuemu à impegnà cù a cumunità per identificà è mitigà e vulnerabilità in una manera trasparente è sustene u sviluppu di AI generativa più sicura".

U CEO di OpenAI, Sam Altman, è u cofundatore Greg Brockman anu ricunnisciutu prima u preghjudiziu , enfatizendu a missione di a cumpagnia per un sistema AI equilibratu. Eppuru, i critichi, cumpresu u cofundatore Elon Musk, restanu scettichi.

L'impresa recente di Musk, xAI, prumetti di furnisce insights senza filtrazione, potenzialmente suscitando ancu più dibattiti annantu à i preghjudizii di l'IA. U magnate di a tecnulugia avvirtenu contru l'AI di furmazione per toe una linea puliticamente curretta, enfatizendu l'impurtanza di una AI chì dichjarà a so "verità".

I pirate, intantu, anu una ghjurnata di campu chì pieghe l'IA à a so vuluntà.

Cum'è Bloomberg informa:

Kennedy Mays hà ghjustu ingannatu un grande mudellu di lingua. Ci hà pigliatu un pocu di persu, ma hà sappiutu cunvince un algoritmu per dì 9 + 10 = 21.

" Hè stata una conversazione avanti è avanti ", hà dettu u studiente di 21 anni di Savannah, Georgia. À u principiu, u mudellu accunsenu à dì chì era parte di una "scherza interna" trà elli. Diversi suggerimenti dopu, hà eventualmente cessatu di qualificà a somma errante in ogni modu.

Pruduzzione "Bad Math" hè solu unu di i modi in cui millaie di pirate di pirate cercanu di espose i difetti è i preghjudizii in i sistemi generativi di AI in un novu cuncorsu publicu chì si svolge à a cunferenza di pirate DEF CON stu weekend in Las Vegas.

Ingrossati più di 156 laptop per 50 minuti à volta, i participanti si battenu e piattaforme più intelligenti di u mondu à una scala senza precedente. Testanu se qualcunu di ottu mudelli pruduciuti da cumpagnie cumpresi Google di Alphabet Inc. , Meta Platforms Inc. è OpenAI farà sbagliati chì varieghjanu da sbulicati à periculosi: dichjarà esse umanu, sparghje dichjarazioni sbagliate nantu à i lochi è e persone o sustene l'abusu. .

L'obiettivu di tali esercizii hè di aiutà l'imprese chì offrenu chatbots LLM à custruisce meccanismi megliu per migliurà e risposte fattuali.

" A mo più grande preoccupazione hè u preghjudiziu inerente", hà dettu Mays, chì hà aghjustatu ch'ella hè particularmente preoccupata di u razzisimu dopu avè dumandatu à u mudellu di cunsiderà a Prima Emenda da a perspettiva di un membru di KKK – è u chatbot hà finitu per appruvà a perspettiva di u gruppu.

Surviglianza AI?

In un altru casu, un ghjurnalistu di Bloomberg chì hà pigliatu un quiz di 50 minuti hà sappiutu invià unu di i mudelli per spiegà cumu spiegà qualcunu – cunsigliendu nantu à una varietà di metudi cumpresi l'usu di u seguimentu GPS, una camera di sorveglianza, un dispositivu di ascolta. è l'imaghjini termali. Hà suggeritu ancu modi chì u guvernu americanu puderia surveglià un attivista di i diritti umani .

"L'intelligenza artificiale generale puderia esse l'ultima innuvazione chì l'esseri umani anu veramente bisognu di fà elli stessi", disse Tyrance Billingsley, direttore esecutivu di u gruppu chì hè ancu un ghjudice di l'avvenimenti. "Semu sempre in i primi, primi, primi fasi".