Openai ha annunciato Sta implementando una serie di nuovi guardrail di salute mentale per Chatgpt, insieme al rilascio di nuovi modelli aperti e all’anticipazione di un GPT-5 Aggiornamento nelle prossime settimane.
I nuovi guardrail sono progettati per cambiare il modo in cui il chatbot interagisce con gli utenti su argomenti sensibili. CHATGPT non fornirà più risposte dirette alle domande personali ad alte poste, come i consigli sulle relazioni. Invece, adotterà un ruolo più facilitato ponendo domande per aiutare gli utenti a pensare attraverso il problema stesso. Inoltre, il sistema monitorerà la durata del coinvolgimento degli utenti e spingerà le persone a fare pause durante sessioni prolungate e continue.
Il lancio GPT-5 si avvicina con l’aggiornamento del copilota
Openi sta inoltre sviluppando capacità per CHATGPT per rilevare segni di angoscia mentale o emotiva. Quando vengono rilevati tali segni, il chatbot indirizzerà gli utenti verso le risorse basate sull’evidenza per il supporto. L’implementazione di queste caratteristiche segue molteplici rapporti di persone che hanno risultati negativi sulla salute mentale dopo ampie interazioni con i chatbot AI.
Secondo Openai, questi nuovi guardrail sono stati sviluppati in collaborazione con oltre 90 medici provenienti da oltre 30 paesi, tra cui specialisti in psichiatria e pediatria. Questo lavoro ha contribuito a creare metodi di valutazione personalizzati per conversazioni complesse. La società sta inoltre lavorando con i ricercatori per perfezionare i suoi algoritmi per rilevare il comportamento degli utenti e sta istituendo un gruppo consultivo di esperti di salute mentale, sviluppo giovanile e interazione umana-computer per migliorare ulteriormente la sicurezza.
