Il CEO di Openai Sam Altman ha annunciato nuove politiche martedì per gli utenti di CHATGPT di età inferiore ai 18 anni, implementando controlli più severi che danno la priorità alla sicurezza rispetto alla privacy e alla libertà. I cambiamenti, che si concentrano sulla prevenzione delle discussioni relative al contenuto sessuale e all’autolesionismo, arrivano quando la società deve affrontare cause e un’audizione del Senato sul Potenziali danni dei chatbot AI.
Nuove misure di sicurezza e controlli dei genitori
In un post che annuncia le modifiche, Altman ha dichiarato che i minori hanno bisogno di una protezione significativa quando si utilizzano nuove potenti tecnologie come Chatgpt. Le nuove politiche sono progettate per creare un ambiente più sicuro per gli utenti adolescenti. Openi States:
“Diamo la priorità alla sicurezza in vista della privacy e della libertà per gli adolescenti”.
- Bloccare contenuti inappropriati. CHATGPT sarà addestrato a rifiutare qualsiasi conversazione civettuola o sessuale con gli utenti identificati come sotto i 18 anni.
- Intervento per discussioni autolesionistiche. Se un utente minorenne discute o immagina scenari suicidi, il sistema è progettato per contattare direttamente i loro genitori. Nei casi gravi, può anche coinvolgere la polizia locale.
- Strumenti di supervisione dei genitori. I genitori che registrano un account minorenne ora possono impostare “ore di blackout“che renderà CHATGPT non disponibile per il proprio adolescente durante i tempi specifici, come a tarda notte o durante la scuola.
Le politiche seguono cause legali e controllo del governo
Le nuove regole sono state annunciate in vista di un’audizione del comitato giudiziario del Senato intitolato “Esaminare il danno dei chatbot AI. ” L’audizione dovrebbe presentare testimonianze del padre di Adam Raine, un adolescente che è morto per suicidio dopo mesi di conversazioni con Chatgpt.
Sfide della verifica dell’età
Openai ha riconosciuto le difficoltà tecniche di verificare accuratamente l’età di un utente. La società sta sviluppando un sistema a lungo termine per determinare se gli utenti sono superiori o meno di 18 anni. Nel frattempo, eventuali casi ambigui saranno inadempienti alle regole di sicurezza più restrittive come precauzione. Per migliorare l’accuratezza e consentire le caratteristiche di sicurezza, Openi raccomanda ai genitori di collegare il proprio account a quello dei loro adolescenti. Questa connessione aiuta a confermare l’età dell’utente e consente ai genitori di ricevere avvisi diretti se il sistema rileva discussioni su pensieri autolesionistici o suicidi. Altman ha riconosciuto la tensione tra queste nuove restrizioni per i minori e l’impegno dell’azienda nei confronti della privacy degli utenti e della libertà per gli adulti. Ha notato nel suo inviare,
“Ci rendiamo conto che questi principi sono in conflitto e non tutti saranno d’accordo su come risolviamo quel conflitto”.
