CHATGPT-5 di Openi ha iniziato a rispondere con “Non lo so” quando non può rispondere con sicurezza a una query, un cambiamento significativo rispetto al tipico comportamento di chatbot di fornire una risposta indipendentemente dalla sua affidabilità. La nuova funzionalità, che ha attirato l’attenzione dopo che gli utenti hanno condiviso le interazioni sui social media, fa parte di uno sforzo per affrontare il problema di vecchia data della disinformazione generata dall’IA.
Affrontare il problema delle allucinazioni AI
Una sfida persistente per i modelli di grandi dimensioni è il problema delle “allucinazioni”, in cui l’IA genera informazioni fabbricate, come citazioni false o studi inesistenti, in tono sicuro. Ciò è particolarmente pericoloso in campi come la medicina o la legge, in cui gli utenti potrebbero agire per informazioni errate senza rendersi inaffidabile. Gli utenti spesso accettano questi output al valore nominale perché la consegna autorevole dell’IA maschera i dettagli fabbricati. Il nuovo approccio di Chatgpt-5 contrasta direttamente questo optando per l’onestà per l’invenzione. Quando il modello incontra una query che non rientra nei suoi dati di addestramento o coinvolge affermazioni non verificabili, ora indicherà la sua incertezza piuttosto che generare una risposta speculativa o errata.
Come funziona la funzione “Non so”
I modelli di linguaggio di grandi dimensioni come Chatgpt non recuperano i fatti da un database. Invece, operano prevedendo la parola successiva in una sequenza basata su schemi statistici appresi da grandi quantità di testo. Questo metodo consente una conversazione fluente e simile all’uomo, ma può anche portare a inesattezze dal suono plausibile quando i dati di addestramento sono limitati su un argomento specifico. Openi ha implementato una soglia di fiducia in Chatgpt-5. Quando la previsione del modello per una risposta scende al di sotto di un certo punteggio di affidabilità, innesca la risposta “Non so”. Questo meccanismo impedisce al modello di fornire una risposta grammaticalmente corretta ma di fatto. Gli sviluppatori hanno calibrato queste soglie attraverso estesi test per bilanciare fornendo informazioni utili con la manutenzione dell’accuratezza.
Costruire la fiducia degli utenti comunicando le limitazioni
La nuova funzionalità è progettata per costruire la fiducia dell’utente chiaramente chiare le limitazioni dell’intelligenza artificiale. Abbandonando esplicitamente quando è incerto, CHATGPT-5 incoraggia gli utenti a cercare una verifica esterna e utilizzare lo strumento in modo più critico. Ciò promuove un’interazione più responsabile, posizionando l’IA come assistente utile piuttosto che una fonte di informazione infallibile. Questa mossa verso una maggiore trasparenza si allinea con una tendenza del settore più ampia, come altre aziende come Google’s Gemelli E Claude di Antropico stanno anche esplorando modi per costruire simili garanzie nei loro modelli AI. L’ammissione di incertezza rispecchia come operano gli esperti umani, che spesso riconoscono i limiti delle loro conoscenze e consultano altre fonti. La funzione rappresenta un passo verso sistemi di intelligenza artificiale più sfumati e responsabili che possono comunicare efficacemente i loro confini.
