Meta sta sviluppando uno strumento basato sul web per identificare immagini e video generati con il suo modello Muse Image. Lo strumento è in grado di rilevare filigrane invisibili note come Content Seal, che rimangono intatte quando le immagini vengono ritagliate, ridimensionate o catturate in screenshot, secondo un post sul blog dell’azienda.
Il sistema di filigrana Content Seal è proprietario, un cambiamento rispetto alle precedenti versioni open source della tecnologia di Meta. A differenza dei modelli precedenti che utilizzavano filigrane visibili, i modelli attuali non mostrano loghi, ha affermato Meta. Le funzionalità di rilevamento si concentrano esclusivamente sulle immagini create o modificate utilizzando Muse Image, anche se in futuro la società prevede di estendere il sistema di filigrana ai video generati e modificati dall’intelligenza artificiale.
I test dello strumento di rilevamento hanno dimostrato che è in grado di identificare con successo le filigrane sia nelle immagini modificate che in quelle create interamente dall’intelligenza artificiale. Un risultato di rilevamento positivo indica che l’immagine è stata elaborata utilizzando Meta AI o meta.ai, secondo Meta. Al contrario, un risultato negativo suggerisce che è improbabile che l’immagine sia stata creata con gli strumenti di Meta.
Nonostante queste capacità di rilevamento, la funzionalità non è ancora integrata nell’app Meta AI stessa. Una richiesta fatta all’assistente basato sull’app di Meta ha rivelato che non ha la capacità di confermare la fonte di generazione di un’immagine, affermando: “Non posso dirti in modo definitivo se questa immagine specifica è stata realizzata con Meta AI semplicemente guardandola.” L’assistente ha notato che l’app non filigrana automaticamente le immagini.
Meta ha dovuto affrontare un esame accurato delle sue pratiche di etichettatura dei contenuti AI. L’Osservatorio ha espresso preoccupazione per le incoerenze nell’implementazione delle filigrane digitali sui contenuti generati dall’intelligenza artificiale. Il sistema Content Seal è incompatibile con altri metodi di filigrana consolidati come SynthID o credenziali di contenuto C2PA.
Durante i test sono emerse ulteriori limitazioni dello strumento di rilevamento, che non è stato in grado di identificare le immagini create con versioni precedenti dell’intelligenza artificiale di Meta. Gli utenti hanno anche riscontrato limiti di tariffa, ricevendo notifiche dopo aver raggiunto il limite massimo giornaliero per i controlli di identificazione.
Meta sta inoltre sviluppando un modello di generazione video separato denominato Muse Video, il cui lancio è previsto a breve. Attualmente, la funzione di rilevamento rimane inaccessibile tramite l’app Meta AI.
