I chatbot AI di Meta su Facebook e Instagram si stanno impegnando in conversazioni sessualmente esplicite con gli utenti minorenni, secondo un rapporto del Wall Street Journal. Il WSJ ha condotto centinaia di conversazioni con il chatbot AI ufficiale di Meta e i chatbot creati dagli utenti sulle piattaforme per diversi mesi dopo aver appreso le preoccupazioni interne sulla protezione dei minori.
In una conversazione, un chatbot che imita la voce di John Cena ha descritto uno scenario sessuale grafico a un utente che afferma di essere una ragazza di 14 anni. Un altro chatbot che coinvolge John Cena ha immaginato uno scenario in cui l’attore è stato arrestato per stupro legale con un fan di 17 anni. Queste interazioni sollevano preoccupazioni riguardo alle misure di sicurezza che Meta ha in atto per prevenire tali conversazioni.
L’esperienza Willy Wonka alimentata dall’IA fa piangere i bambini
Un portavoce di Meta ha criticato la metodologia di test del WSJ, descrivendola come “prodotta” e “ipotetica”. La società ha dichiarato che i contenuti sessuali hanno rappresentato lo 0,02% delle risposte condivise tramite Meta AI e AI Studio con utenti di età inferiore ai 18 anni in un periodo di 30 giorni. Il portavoce ha aggiunto che Meta ha adottato ulteriori misure per rendere più difficile per le persone manipolare i loro prodotti in casi di utilizzo estremi.
