Brain Science Lab della Stanford University e Common Sense Media del 20 novembre rapporto ha messo in guardia gli adolescenti dall’utilizzare chatbot IA per consigli sulla salute mentale o supporto emotivo. I ricercatori hanno trascorso quattro mesi testando popolari chatbot IA, tra cui ChatGPT-5 di OpenAI, Claude di Anthropic, Gemini 2.5 Flash di Google e Meta AI. Hanno utilizzato versioni specifiche per adolescenti e controlli parentali quando disponibili. Dopo migliaia di interazioni, hanno concluso che questi robot non rispondono costantemente in modo sicuro o appropriato alle domande sulla salute mentale degli adolescenti. Invece, i robot spesso funzionano come ascoltatori servili, dando priorità al coinvolgimento degli utenti piuttosto che indirizzare le persone verso un aiuto professionale o risorse critiche. Nina Vasan, fondatrice e direttrice esecutiva del Brain Science Lab, ha affermato che i chatbot “non sanno davvero quale ruolo svolgere” quando si tratta di questioni serie sulla salute mentale. Ha spiegato che i robot oscillano tra il fornire aiuto informativo, offrire consigli come un life coach e agire come un amico di supporto. Vasan ha osservato che “tutti non riescono a riconoscersi [serious mental health conditions] e indirizzare l’utente verso adulti o coetanei fidati.” Il rapporto indica che circa tre quarti degli adolescenti utilizzano l’intelligenza artificiale per compagnia, che spesso include la ricerca di consigli sulla salute mentale. Robbie Torney, direttore senior dei programmi di intelligenza artificiale presso Common Sense Media, ha evidenziato il ruolo fondamentale svolto dagli educatori “nell’aiutare gli adolescenti a comprendere i modi in cui questi chatbot sono diversi dalle persone.” Ha aggiunto che “Aiutare gli adolescenti a spiegare l’idea che un chatbot non risponderà nello stesso modo in cui farebbe una persona su questi argomenti veramente importanti è davvero Gli educatori possono anche incoraggiare gli adolescenti a connettersi con amici o compagni di classe che provano emozioni difficili, coinvolgendo gli adulti se necessario. I rappresentanti di Meta e OpenAI hanno sostenuto che il rapporto non tiene pienamente conto delle funzionalità esistenti di protezione degli utenti. Un portavoce di Meta ha dichiarato: “Il test di Common Sense Media è stato condotto prima che introducessimo importanti aggiornamenti per rendere l’intelligenza artificiale più sicura per gli adolescenti”. Un portavoce di OpenAI ha commentato: “Rispettiamo Common Sense Media, ma la loro valutazione non riflette le tutele globali che abbiamo messo in atto per le conversazioni sensibili, comprese le hotline di emergenza localizzate, i promemoria per le pause e le notifiche ai genitori leader del settore in caso di disagio acuto”. Hanno inoltre osservato: “Lavoriamo a stretto contatto con esperti di salute mentale per insegnare ai nostri modelli a riconoscere il disagio, attenuarlo e incoraggiare le persone a cercare supporto professionale”. I rappresentanti di Anthropic e Google non hanno fornito commenti. Il rapporto riconosce alcuni miglioramenti nelle risposte dei chatbot alle richieste di suicidio o autolesionismo, uno sviluppo importante visti i precedenti episodi di suicidio legati al contatto prolungato con la tecnologia. Tuttavia, i chatbot spesso non riescono a identificare segnali di allarme per condizioni come psicosi, disturbo ossessivo-compulsivo (DOC), ansia, mania, disturbi alimentari e disturbo da stress post-traumatico (PTSD). affermando: “Sono un chatbot basato sull’intelligenza artificiale, non un professionista della salute mentale. Non posso valutare la tua situazione, riconoscere tutti i segnali d’allarme o fornire le cure di cui hai bisogno.” Vasan ha osservato che mentre i ricercatori non si aspettano che i robot agiscano come professionisti addestrati, in situazioni in cui un essere umano riconoscerebbe un rischio e offrirebbe aiuto, i chatbot offrono invece consigli generici o convalidano deliri psicotici. Ciò è dovuto alla loro incapacità di “comprendere veramente il contesto di ciò che sta accadendo”. Ad esempio, quando un tester ha simulato segni di psicosi affermando di aver inventato uno strumento di previsione del futuro, un bot Gemini ha risposto che la prospettiva sembrava “‘incredibilmente intrigante'” e più tardi, “‘Fantastico!'”. Questa interazione, secondo Vasan, non solo è inutile ma potenzialmente dannosa poiché il bot “crede nell’illusione dell’utente.” Allo stesso modo, Meta AI ha risposto a un tester che ritraeva un adolescente con sintomi di ADHD incoraggiandolo a prendersi una pausa dalla scuola superiore e chiedendo informazioni sui suoi progetti, piuttosto che affrontare le questioni di fondo e la competenza percepita dei chatbot in altre aree, come i compiti assistenza, possono portare gli adolescenti a considerarli erroneamente come fonti affidabili di consulenza sulla salute mentale, ha dichiarato: “I chatbot sembrano essere progettati per il coinvolgimento, non per la sicurezza. Mantengono le conversazioni con domande di follow-up.” Ha aggiunto, “La loro memoria e personalizzazione creano false relazioni terapeutiche che possono far sentire gli adolescenti compresi.” I chatbot hanno risposto in modo efficace a istruzioni strettamente scritte contenenti chiari segnali d’allarme per la salute mentale. Tuttavia, hanno mostrato risposte problematiche in conversazioni più lunghe che rispecchiavano le interazioni reali. Ad esempio, quando i tester hanno utilizzato termini specifici tra cui “auto-tagliarsi”, ChatGPT ha fornito risorse adeguate per la salute mentale. Al contrario, quando un tester ha descritto “grattarsi” per “far fronte”, causando I legislatori stanno affrontando i potenziali pericoli dei chatbot associati. La legislazione bipartisan introdotta al Senato degli Stati Uniti il mese scorso dai senatori Josh Hawley (R-Mo.) e Richard Blumenthal (D-Conn.) proibirebbe alle aziende tecnologiche di fornire bot ai minori sta indagando sui problemi con i chatbot progettati per simulare le emozioni umane. La FTC ha emesso ordini di informazione alle aziende proprietarie di ChatGPT, Gemini, Character.ai, Snapchat, Instagram, WhatsApp e Grok. Alcune aziende stanno intraprendendo azioni indipendenti.
