Gli investigatori statunitensi stanno implementando l’intelligenza artificiale per identificare il materiale di abuso sessuale di minori creato dall’intelligenza artificiale generativa. Il Cyber Crimes Center del Dipartimento di Homeland Security sta conducendo questo sforzo a differenziare le immagini sintetiche dalle rappresentazioni di vittime reali. L’iniziativa affronta un aumento documentato di contenuti offensivi generati dall’IA. La Internet Watch Foundation (IWF) ha riportato un aumento significativo di questo tipo di immagini che appare sui forum Dark-Web. Questo materiale è spesso costituito da profondità fotorealistiche, che possono incorporare le somiglianze di persone reali o vittime del passato. L’origine sintetica di queste immagini presenta sfide sostanziali per le forze dell’ordine, complicando gli sforzi per stabilire la criminalità. In risposta, il DHS Cyber Crimes Center, l’organo investigativo statunitense primario per lo sfruttamento dei bambini, sta sperimentando strumenti di rilevamento basati sull’intelligenza artificiale. Questi metodi avanzati sono stati adottati per contrastare l’uso improprio della tecnologia generativa di intelligenza artificiale in questo contesto. L’obiettivo è migliorare l’identificazione del contenuto generato dal computer, migliorando così l’intervento e i processi investigativi nei casi di sfruttamento dei bambini.
