L’intelligenza artificiale generativa sta democratizzando le frodi nell’e-commerce, con i truffatori che utilizzano sempre più immagini generate dall’intelligenza artificiale per ottenere rimborsi per articoli che non restituiscono mai. Secondo Cablatole piattaforme di shopping online, che da tempo si affidano alle foto inviate dai clienti per convalidare le richieste di rimborso, faticano a distinguere tra richieste di risarcimento danni reali e inventate.
Il problema è diventato particolarmente acuto sulle piattaforme di social media cinesi come Nota rossa E Douyin. Wired evidenzia un recente caso che coinvolge un commerciante di granchi di nome Gao Jing, che ha ricevuto una richiesta di rimborso accompagnata da un video di granchi “morti”. La frode è stata smascherata quando il venditore ha notato incongruenze biologiche nel filmato: i granchi avevano il numero sbagliato di zampe e il sesso dei granchi cambiava tra una clip e l’altra. Le indagini della polizia hanno confermato che il video era generato dall’intelligenza artificiale, il che ha portato all’arresto dell’acquirente.
Il problema va oltre i singoli truffatori. Michael Reitblat, CEO della società di rilevamento delle frodi Forteha detto a Wired che le richieste di rimborso manipolate dall’intelligenza artificiale sono aumentate di oltre 15% a livello mondiale dall’inizio dell’anno. Secondo quanto riferito, i gruppi della criminalità organizzata stanno utilizzando questi strumenti per automatizzare le frodi su larga scala, utilizzando indirizzi IP a rotazione per inondare i rivenditori con false richieste di articoli domestici “danneggiati”. Sebbene alcuni commercianti stiano implementando i propri strumenti di intelligenza artificiale per rilevare immagini manipolate, la tecnologia rimane imperfetta, costringendo i rivenditori a prendere in considerazione politiche di restituzione più rigorose che potrebbero disturbare gli acquirenti onesti.
In uno sviluppo più leggero dello stesso rapporto, Wired rileva il successo virale di “Yichang Beer”. Nonostante il marchio con caratteri cinesi e immagini di draghi, la birra viene effettivamente prodotta all’interno Kazakistan ed è stato originariamente venduto nei mercati di lingua russa. L’etichetta del prodotto afferma che è stata prodotta dal 1858, decenni prima che la birra fosse introdotta in Cina. Paradossalmente, dopo essere diventata virale sui social media cinesi per la sua “falsa” eredità, la birra viene ora importata e venduta nella vera città di Yichang.
