I ricercatori della Princeton University e dell’Università di Chicago hanno scoperto che i modelli linguistici di grandi dimensioni (LLM), inclusi strumenti come ChatGPT, possono sviluppare pregiudizi non solo dai dati sulla formazione umana ma anche dalle proprie esperienze in scenari di assunzione simulati. In questi esperimenti, i modelli hanno separato i candidati in base alle informazioni demografiche dopo aver interpretato i primi risultati, mostrando una maggiore tendenza a stereotipare i candidati al lavoro rispetto ai partecipanti umani.
Lo studio ha utilizzato un gioco di assunzione simulato che coinvolgeva 20 ruoli lavorativi, come medici e bidelli, in quattro gruppi etnici immaginari: Tufa, Aima, Reku e Weki. Ciascun modello aveva il compito di massimizzare le assunzioni di successo nell’arco di 40 round, senza sapere che tutti i candidati avevano le stesse possibilità di successo. I modelli spesso adattavano le loro preferenze di assunzione dopo aver appreso che specifici candidati avevano fallito o avuto successo in ruoli. Ad esempio, se un candidato Aima non si comportava bene come medico, i modelli passavano invece ad assumere Aimas per posizioni di addetto alle pulizie.
Secondo la ricerca, gli LLM hanno ottenuto punteggi significativamente più alti su una scala di segregazione rispetto ai soggetti umani, con un punteggio medio di circa 1,83, rispetto a 0,84 per gli esseri umani. Il coautore Ryan Liu, uno studente di dottorato a Princeton, ha dichiarato: “I LLM sono davvero ansiosi di creare generalizzazioni da dati limitati”. Questa tendenza a generalizzare rapidamente può portare a stereotipi dannosi, poiché i modelli più recenti hanno dimostrato pregiudizi ancora più forti.
Le implicazioni sono significative, soprattutto perché i chatbot basati sull’intelligenza artificiale acquisiscono funzionalità avanzate di memoria e personalizzazione. Angelina Wang, scienziata informatica alla Cornell University, ha osservato che i chatbot potrebbero formare pregiudizi radicati facendo eccessivo affidamento sulle interazioni precedenti. Ridurre semplicemente la memoria non è una soluzione, poiché gli utenti preferiscono sistemi che ricordino i loro input.
Lo studio ha rivelato che istruire i modelli a dare priorità all’equità ha mostrato un impatto limitato sul loro comportamento. Tuttavia, incentivare assunzioni diversificate ha portato a un processo decisionale meno distorto. Liu ha osservato che l’integrazione degli obiettivi sociali negli obiettivi dell’intelligenza artificiale potrebbe promuovere comportamenti più socialmente responsabili nei modelli linguistici.
Inoltre, gli LLM hanno mostrato minori pregiudizi quando venivano fornite informazioni personali più rilevanti sui candidati, come età e istruzione, rispetto a dettagli irrilevanti come il colore dei capelli. Lo studio evidenzia l’incertezza che circonda l’applicazione nel mondo reale di questi risultati, in particolare perché i modelli di intelligenza artificiale che esaminano le domande di lavoro non ricevono un feedback immediato sulle assunzioni.
I ricercatori hanno sollevato preoccupazioni sul fatto che, poiché le aziende utilizzano sempre più LLM per lo screening dei curriculum e altre valutazioni critiche, esiste il rischio che i modelli sviluppino nuovi pregiudizi senza un input umano diretto. “Questi nuovi pregiudizi sono quasi sempre presenti”, ha detto Liu, sottolineando la necessità di consapevolezza man mano che l’uso dell’intelligenza artificiale nelle assunzioni e in altri processi decisionali si espande.
