- Il rilevamento dei deepfake è una sfida dalle molteplici sfaccettature che richiede tecnologia avanzata e giudizio umano.
- I deepfake rappresentano una minaccia reale, con un impatto su individui, aziende e intere società.
- Dobbiamo coltivare capacità di pensiero critico e promuovere un uso responsabile della tecnologia.
- Le aziende devono promuovere solide soluzioni di rilevamento dei deepfake per proteggere se stesse e i consumatori.
Nelle nostre vite sempre più digitalizzate, in cui le immagini hanno un potere straordinario, emerge una nuova minaccia e abbiamo bisogno di una soluzione rapida: il rilevamento dei deepfake.
Questi media sintetici generati dall’intelligenza artificiale imitano in modo convincente le persone reali, rendendo più difficile separare i fatti dalla finzione.
Louise Bruder, una super-riconoscitrice con l’incredibile capacità di ricordare i volti, lavora per l’azienda britannica di identificazione digitale Yoti, dove aiuta a verificare l’autenticità dei documenti di identità. Tuttavia, anche le sue abilità acute devono affrontare una nuova sfida poiché Yoti sviluppa attivamente la tecnologia per combattere la crescente minaccia dei deepfake.
In che modo i deepfake ingannano?
Deepfake fare affidamento su sofisticato apprendimento automatico algoritmi. Questi algoritmi vengono addestrati su enormi set di dati di immagini o video di una persona target. L’intelligenza artificiale impara a riprodurre i manierismi, la voce e le sembianze del bersaglio con una precisione inquietante. Ciò consente ai creatori di manipolare i filmati, mettendo le parole in bocca alle persone o facendole apparire in situazioni in cui non sono mai state.
Le conseguenze sono di vasta portata. I deepfake possono offuscare la reputazione, diffondere disinformazione e minare la fiducia nelle istituzioni. Immaginate il caos se il deepfake di un leader mondiale che dichiara guerra diventasse virale.
La corsa al rilevamento dei deepfake
La lotta contro i deepfake si sta intensificando. Ricercatori e aziende tecnologiche stanno sviluppando strumenti avanzati per smascherare questi travestimenti digitali. Le strategie chiave includono:
- Caccia all’incoerenza: Il software di rilevamento Deepfake analizza i video fotogramma per fotogramma, cercando anomalie come schemi di lampeggiamento innaturali, sincronizzazione labiale non corrispondente o difetti nei tratti del viso.
- Analisi delle impronte digitali: immagini e video contengono metadati nascosti che fungono da impronta digitale. I rilevatori di deepfake possono analizzare questi dati per individuare segni di manipolazione dell’intelligenza artificiale.
- Tracciamento della fonte: Conoscere l’origine di un file multimediale può fornire indizi preziosi. I rilevatori vengono integrati nelle piattaforme online per segnalare media potenzialmente manipolati e tracciarne la fonte.
Così come avanzano le tecniche di rilevamento, avanzano anche i metodi dei creatori di deepfake.
Ben Colman, capo della Difensore della realtà (un’azienda specializzata in soluzioni di rilevamento dei deepfake), ritiene che anche i super-riconoscitori di talento come Louise alla fine avranno difficoltà a distinguere il vero dal falso. È un gioco costante del gatto col topo tecnologico, che richiede algoritmi di rilevamento sempre più sofisticati in grado di analizzare sottili segnali fisiologici.
La gamma di minacce
Colman distingue tra altamente sofisticato deepfake potenzialmente utilizzati per campagne di disinformazione sponsorizzate dallo stato e “cheapfakes”, in cui i criminali utilizzano software di intelligenza artificiale facilmente reperibili. Anche i deepfake di qualità inferiore possono ingannare con successo le persone, soprattutto con immagini e audio. La clonazione della voce è una preoccupazione crescente, poiché consente ai criminali di impersonare la voce di qualcuno per estorcere denaro o manipolare le emozioni.
Il professor Siwei Lyu, un esperto di deepfake dell’Università di Buffalo, sviluppa algoritmi di rilevamento che cercano indizi subdoli. Avverte che le videoconferenze potrebbero essere il prossimo obiettivo degli attacchi deepfake, in cui i criminali potrebbero impersonare persone reali nelle videochiamate dal vivo.
L’impatto sociale dei deepfake
Il potenziale per deepfake causare disagi diffusi è enorme. Dalle immagini false di esplosioni alle registrazioni audio di politici che fanno dichiarazioni provocatorie, il potenziale di caos è alto. In un caso, un deepfake raffigurante un amato comico islandese deceduto ha suscitato scalpore a livello nazionale e ha scatenato discussioni sulla regolamentazione dell’IA.
Combattere l’IA con l’IA
Gli strumenti all’avanguardia per il rilevamento dei deepfake spesso sfruttano la potenza dell’intelligenza artificiale stessa:
- FakeCatcher di Intel: Questo strumento di rilevamento in tempo reale raggiunge un impressionante tasso di precisione del 96%. Analizza i sottili schemi del flusso sanguigno nei video per distinguere i volti reali da quelli fittizi.
- Sentinella: una piattaforma di protezione leader basata sull’intelligenza artificiale utilizzata da governi e imprese per combattere i deepfake. Sentinel consente agli utenti di caricare contenuti multimediali per l’analisi automatizzata.
- Altri strumenti promettenti: gli sviluppatori creano e perfezionano continuamente strumenti come Deepware AI (focalizzato sull’evoluzione delle tendenze online) e Sensity AI (addestrato sui più recenti framework di creazione di deepfake).
I limiti dell’intelligenza artificiale e la necessità del discernimento umano
Mentre gli strumenti di rilevamento basati sull’intelligenza artificiale si stanno evolvendo, gli esperti mettono in guardia dal fare completo affidamento sulla tecnologia. Christopher Doss del Rand Corporation mette in guardia da una corsa agli armamenti tra rilevamento ed evasione, evidenziando la necessità di pensiero critico e capacità di verifica delle fonti.
Sebbene aziende come Yoti comprendano il valore di combinare il discernimento umano con le difese tecnologiche per mantenere la fiducia in un’era di deepfake, dobbiamo accettare che questo è un obiettivo comune e agire insieme.
Credito immagine in primo piano: Freepik
