Secondo un rapporto di WIRED, centinaia di appaltatori che lavoravano su un progetto per Meta sono stati incaricati di fingere di essere bambini e di sondare i chatbot rivali, tra cui Gemini di Google e ChatGPT di OpenAI, con suggerimenti che coinvolgevano argomenti delicati come suicidio, sesso e droga. Questi appaltatori, con sede in Kenya, hanno inviato immagini relative alle loro richieste, tra cui pillole, coltelli, cappi e diagrammi medici di procedure ginecologiche.
Hundreds of contractors working on a project for Meta pretended to be kids—and then prompted rival chatbots like Gemini and ChatGPT to discuss high-risk subjects. https://t.co/lw2Zp0ffdL
— WIRED (@WIRED) June 29, 2026
I suggerimenti sono stati progettati per testare i sistemi di intelligenza artificiale rivali ed esporre potenziali fallimenti nella loro capacità di gestire contenuti pericolosi rivolti ai minori. Questi test rientrano nel contesto di un controllo costante su come le aziende tecnologiche garantiscono la sicurezza dei loro prodotti, in particolare per i bambini. Meta ha dovuto affrontare critiche nei confronti dei propri chatbot a seguito di una valutazione interna del team rosso che ha rivelato che avevano un tasso di fallimento del 66,8% nel bloccare contenuti di sfruttamento sessuale minorile e un tasso di fallimento del 54,8% per tentativi di suicidio e autolesionismo. In risposta alle pressioni legali, Meta ha sospeso l’accesso degli adolescenti ai personaggi associati all’IA nel gennaio 2026.
Un precedente rapporto di un organo di stampa svedese indicava che gli appaltatori di Meta in Kenya avevano testato attivamente il modo in cui i concorrenti gestiscono conversazioni sensibili con utenti che dichiarano di essere minorenni. This development aligns with Meta’s broader strategy to move away from human content moderation.
La società prevede di sostituire oltre il 90% della sua forza lavoro di revisione dei contenuti con modelli linguistici di grandi dimensioni entro la fine del 2026, come riportato dal Financial Times. Questa transizione ha già comportato quest’anno uno spostamento di circa la metà di tutte le richieste di revisione umana verso l’intelligenza artificiale, affermando che i sistemi di intelligenza artificiale commettono il 13% in meno di errori e identificano il 10% in più di violazioni delle policy rispetto ai revisori umani.
Il costo umano di questa iniziativa è stato significativo. Ad aprile, la società di outsourcing Sama con sede a Nairobi ha emesso avvisi di licenziamento a 1.108 dipendenti dopo che Meta aveva concluso un importante incarico a causa delle segnalazioni degli informatori. Questi rapporti hanno evidenziato contenuti inquietanti che i lavoratori kenioti sono stati invitati a rivedere, in gran parte raccolti attraverso i filmati degli occhiali intelligenti di Meta.
L’approccio di Meta, che coinvolge appaltatori esteri a bassa retribuzione per testare i concorrenti riducendo al contempo i posti di lavoro di moderazione, illustra le tensioni in corso nel dibattito sulla sicurezza dell’IA. Il rapido dispiegamento di potenti sistemi di intelligenza artificiale avviene parallelamente a una ridotta supervisione umana, sollevando preoccupazioni sulla gestione di contenuti sensibili che coinvolgono minori.
