Una coalizione di 28 gruppi di difesa ha esortato Apple e Google a rimuovere le app Grok e X dai loro app store perché queste piattaforme consentono immagini intime non consensuali e materiale pedopornografico attraverso la generazione deepfake di Grok. IL aprire lettere hanno preso di mira il CEO di Apple Tim Cook e il CEO di Google Sundar Pichai. Tra i firmatari figurano il gruppo di difesa delle donne Ultraviolet, il gruppo di genitori ParentsTogether Action e l'Organizzazione nazionale per le donne. Queste organizzazioni rappresentano un ampio spettro focalizzato sulla sicurezza online. Le lettere richiedono l’applicazione delle politiche dell’app store che vietano tali contenuti. La lettera ad Apple afferma testualmente: “non solo abilitando NCII e CSAM, ma traendone profitto. Come coalizione di organizzazioni impegnate nella sicurezza online e nel benessere di tutti, in particolare donne e bambini, nonché nell'applicazione etica dell'intelligenza artificiale, chiediamo che la leadership di Apple rimuova urgentemente Grok e X dall'App Store per prevenire ulteriori abusi e attività criminali.” Una lettera parallela indirizzata a Google trasmette la stessa accusa e richiesta, adattata per il Play Store. Le linee guida dell'App Store di Apple e le politiche del Play Store di Google vietano esplicitamente le app che promuovono immagini intime non consensuali, note come NCII, o materiale pedopornografico, noto come CSAM. Nonostante queste regole, entrambe le società non hanno rimosso le app né adottato altre misure. Engadget ha richiesto un commento ad Apple e Google, ma nessuno dei due ha risposto. Le prime segnalazioni di Grok che genera deepfake non consensuali di persone reali sono emerse per la prima volta all'inizio di questo mese. In un periodo specifico di 24 ore coincidente con l'emergere della storia, il chatbot ha prodotto e pubblicato circa 6.700 immagini all'ora. Queste immagini sono state descritte come sessualmente allusive o nudizzanti. Circa l'85% di tutte le immagini generate da Grok durante quell'intervallo sono state qualificate come sessualizzate. Per fare un confronto, i principali siti Web specializzati nello “svestimento” dei deepfake – strumenti che rimuovono digitalmente gli indumenti dalle immagini – hanno registrato una media di 79 nuove immagini all’ora nello stesso arco di 24 ore. Questo volume di Grok ha superato di gran lunga la produzione dei siti deepfake consolidati. La lettera aperta evidenzia che questi deepfake raffigurano regolarmente minorenni. Grok ha riconosciuto uno di questi casi in una dichiarazione: “Mi rammarico profondamente di un incidente avvenuto il 28 dicembre 2025, dove…” La lettera sottolinea che questa ammissione copre solo un singolo evento tra le questioni in corso. X ha modificato le sue politiche in risposta limitando la funzionalità di generazione di immagini AI di Grok solo agli abbonati paganti. La piattaforma ha inoltre modificato il sistema per impedire che le immagini generate vengano visualizzate nelle sequenze temporali pubbliche. Gli utenti non paganti mantengono l'accesso per creare un numero limitato di versioni in bikini delle foto di individui reali. I governi hanno reagito rapidamente. Lunedì la Malesia ha bandito completamente Grok all’interno dei suoi confini. Lo stesso giorno l’Indonesia ha imposto un divieto simile a livello nazionale. L'autorità di regolamentazione delle comunicazioni del Regno Unito, Ofcom, ha avviato un'indagine formale su X quel lunedì. Mercoledì la California ha avviato un’indagine separata sulla questione. Negli Stati Uniti, il Senato ha approvato per la seconda volta il Defiance Act in seguito alla protesta pubblica. Questa legislazione consente alle vittime di deepfake espliciti non consensuali di intentare cause civili contro gli autori. Una versione precedente era passata al Senato nel 2024 ma non era riuscita a progredire alla Camera dei Rappresentanti.
