A terapia AI hè quì, ma a supervisione ùn hè micca

Scritta da Kate Farmer via RealClear Wire ,

Dapoi l'entrata vivace di ChatGPT in u mondu tecnulugicu à a fine di u 2022, i mudelli di generazione di testu artificialmente intelligenti anu esplutatu in pupularità, pruvucannu unu di i più grandi boom tech di a storia da u debut di u World Wide Web. L'IA hè avà spuntata in ogni angulu di a vita muderna – ancu a terapia.

I pazienti frustrati da i lunghi tempi di attesa è i prezzi elevati in l'assistenza di salute mentale sò sempre più rivolti à l'applicazioni AI, i siti web è i chatbots per a terapia. Ma malgradu a so novità, i cunsumatori anu da esse attenti. Questi ghjovani sistemi AI mancanu di a vigilazione regulatoria essenziale per assicurà a so sicurità, chì ponu mette in risicu l'utilizatori vulnerabili.

Mentre a tecnulugia hà sviluppatu rapidamente in l'ultimi mesi, a terapia di chat AI ùn hè micca nova. I primi formi informatizati di a terapia AI sò ghjunti in l'anni 1960 è 70, induve prugrammi cum'è Eliza è ALICE puderanu risponde à l'inputs di l'utilizatori basi è offre una forma rudimentale di "orechja à sente". I so creatori, pessimisti nantu à a capacità di l'urdinatori di ricreà a conversazione umana attuale, in generale li cunsidereghjanu cum'è satira . Ma mudeli muderni più avanzati di Trattamentu di Lingua Naturale (NLP) ponu generà dialoghi assai cunvincenti chì passanu a prova di Turing cù culori volanti.

I sistemi di terapia AI anu dapoi u regnu di l'esperimentazione scientifica è sò intruti in i mercati publichi, annunziate i so servizii cum'è una vera clinica. Oghje, decine d'applicazioni cum'è Woebot, Wysa è Limbic offrenu una larga gamma di servizii di terapia, soprattuttu gratuitamente o à una piccula tarifa di abbonamentu. Eserciteghjanu ciò chì Alexandrine Royer di l'Istitutu d'Etica AI di Montreal chjama "informatica emotivamente intelligente", impegnendu empaticamente cù inputs di l'utilizatori è risponde cù tecniche di terapia stabilite cum'è a Terapia Cognitiva Comportamentale (CBT). Tutti i siti presentanu i stessi disclaimers: chì ùn sò micca un sustitutu per un veru prufessiunale, chì ùn ponu micca diagnosticà e cundizioni o prescrive medicine, è per piacè cercà aiutu d'urgenza in tempi di crisa. Anu ancu enfatizatu chì u cuntenutu di e sessioni di l'utilizatori serà mantene privatu.

Ma stu spaziu unicu "non-prufessiunale" occupatu da l'applicazioni è i siti web di terapia AI hè quasi interamente micca regulatu. I servizii di terapia AI, ancu siti altamente sofisticati cum'è Woebot, sò sempre classificati da a FDA cum'è prudutti di " benessere generale " – a categuria regulatoria per "prodotti à pocu risicu chì prumove un stile di vita sana". I prudutti di benessere generale ùn sò micca sottumessi à a sorveglianza in a manera di l'alimenti, i cusmetichi o l'assistenza medica. Sò tenuti solu à un inseme di vagi "raccomandazioni non vincolanti" publicati da a FDA per l'usu suggeritu (è chì ùn sò micca stati aghjurnati da u 2019 ). Sempre chì i siti di terapia AI cuntinueghjanu à ricusà a capacità di trattà e cundizioni specifiche cum'è l'anorexia o i disordini d'ansietà, sò permessi di allegà certi benefici per a salute mentale senza verificazione da a FDA.

Ùn hè micca un sicretu chì l'AI faci sbagli. Ogni mese, i sistemi di IA di altu prufessu facenu nutizie cù sbaglii risabili . Ma a scumessa hè più altu per a salute mentale. I terapeuti AI, è i chatbots AI in generale, ùn ponu micca capisce a sfumatura di l'utilizatori è u significatu precisu ogni volta, cusì sò furzati à indovinà. Di genere, questa ipotesi si traduce in un dialogu chì hè goffo è frustrante. À u peghju, però, ponu accidentalmente dà cunsiglii dannosi – errori chì ponu esse periculosi per a vita quandu sò emessi à utilizatori vulnerabili. L'imprese di terapia AI d'altu prufilu sò cuscenti di sti sbaglii: alcuni, cum'è Woebot, anu ancu publicatu comunicati di stampa cundannendu altri mudelli di terapia AI, mentre cuntinueghjanu à difende u so propiu.

Ma a cunfidenziale di e dati di l'utilizatori, cumminata cù a mancanza di misure di trasparenza per i siti di terapia AI, rende difficiule per l'utilizatori è i regulatori di determinà a sicurità è l'efficacità di a cura. I sistemi di terapia AI spessu publicità statistiche pusitive chì pruvucanu l'efficacità di u so pruduttu, ma i dati sò auto-riportati, è i studii sò generalmente realizati internamente da e cumpagnie stesse. A causa di u so statutu di a FDA cum'è "prodotti di benessere generale" (GWP), micca dispusitivi commercializzati legalmente , ùn sò micca tenuti à alcuna esigenza federale di trasparenza annantu à e rivendicazioni chì facenu. L'approvazione tradiziunale di a FDA richiede evidenza scientifica valida è sufficiente chì assicurendu a sicurità è l'efficacità di un pruduttu – ma tali requisiti ùn si applicanu micca per i GWP. Senza questa sorveglianza, i fornituri di terapia AI ponu fà affirmazioni infondate nantu à a sicurità è i benefici di u so mudellu senza ripercussioni.

Questu ùn vole micca dì chì i servizii di terapia AI duveranu esse abbandunati sanu. Quandu sò in realtà usati per "benessere generale" – micca per cundizioni gravi, è certamente micca per episodi di crisa – anu u putenziale di offre benefici unichi, à dumanda chì un terapeuta regulare ùn pò micca. U so altu gradu di cunfidenziale, facilità d'accessu, tempi d'attesa zero, è costu estremamente bassu ponu fà i siti di terapia AI una opzione decente in a linea. Tuttavia, finu à chì e migliori prutezioni di l'utilizatori sò in piazza, ùn pudemu micca cunfidà cumplettamente i sistemi di terapia AI per furnisce una cura sicura è efficace.

I sistemi AI, in generale, spuntanu più veloce di a velocità di regulazione. Resta à a FDA è à altre agenzie federali per determinà induve è cumu i servizii di terapia AI seranu sottumessi à a sorveglianza. Ma, cum'è in ogni periodu di grande prugressu tecnologicu, a sorveglianza eventualmente ghjunghjerà, cù i meccanismi per a trasparenza di i sistemi è a prutezzione di l'utilizatori. Per avà, però, a megliu medicina per l'utilizatori hè probabilmente d'aspittà.