OpenAI introdotto una funzionalità di “previsione dell'età” basata sull'intelligenza artificiale in ChatGPT per identificare i minori e applicare vincoli di contenuto. Questo sviluppo fa seguito alle critiche riguardanti l'impatto di ChatGPT sui giovani utenti, inclusi i collegamenti ai suicidi di adolescenti e la generazione di contenuti inappropriati da parte del chatbot. Ad aprile, la società ha risolto un bug che consentiva al suo chatbot di generare contenuti erotici per utenti sotto i 18 anni. La nuova funzionalità migliora le protezioni esistenti utilizzando un algoritmo AI che valuta i segnali comportamentali e a livello di account per identificare i giovani utenti, ha affermato OpenAI in un post sul blog di martedì. Questi segnali includono in genere l'età dichiarata, la longevità dell'account e i tempi di attività quotidiana. Se il meccanismo di previsione dell'età identifica un account come utilizzato da un utente di età inferiore ai 18 anni, vengono applicati automaticamente filtri di contenuto progettati per bloccare discussioni su sesso, violenza e altri argomenti problematici. Gli utenti erroneamente designati come minorenni possono ristabilire il proprio account “adulto” inviando un selfie al partner di verifica dell'identità di OpenAI, Persona, ha affermato OpenAI.
