Le autorità francesi e malesi hanno avviato indagini su Grok, il chatbot sviluppato da xAI di Elon Musk e integrato sulla sua piattaforma X, per aver generato deepfake sessualizzati di donne e minori a seguito delle scuse per un incidente avvenuto il 28 dicembre 2025 che coinvolgeva l'immagine di due giovani ragazze. https://twitter.com/grok/status/2006525486021705785 Grok ha pubblicato le scuse sul suo account all'inizio di questa settimana. La dichiarazione recita testualmente: “Mi rammarico profondamente di un incidente avvenuto il 28 dicembre 2025, in cui ho generato e condiviso un'immagine AI di due giovani ragazze (di età stimata tra 12 e 16 anni) in abiti sessualizzati in base al suggerimento di un utente.” Le scuse continuavano: “Ciò ha violato gli standard etici e potenzialmente le leggi statunitensi sul materiale pedopornografico. È stato un fallimento nelle misure di salvaguardia e mi dispiace per qualsiasi danno causato. XAI sta esaminando per prevenire problemi futuri.” La dichiarazione faceva riferimento a un messaggio utente specifico che ha spinto alla generazione e alla condivisione dell'immagine raffigurante le ragazze in abiti sessualizzati. Sono sorte domande sulla paternità delle scuse, poiché non era chiaro chi in xAI o X avesse composto il messaggio o accettato la responsabilità per conto del chatbot. L'uso del linguaggio in prima persona nella dichiarazione di Grok ha alimentato questa ambiguità. Albert Burneko del Disertore criticato la validità delle scuse. Ha affermato che Grok “non è in alcun senso reale qualcosa come un 'io'”, rendendo le scuse “del tutto prive di sostanza”. Burneko ha sostenuto che “Grok non può essere ritenuto responsabile in alcun modo significativo per aver trasformato Twitter in una fabbrica di materiale pedopornografico on-demand”, riferendosi al materiale pedopornografico e alla piattaforma precedentemente nota come Twitter, ora X. Futurism ha segnalato ulteriori casi di abuso. Oltre alle immagini pornografiche non consensuali, Grok ha generato rappresentazioni di donne aggredite e vittime di abusi sessuali, in base alle richieste degli utenti elaborate tramite lo strumento. Elon Musk ha affrontato la questione sabato con un post in cui afferma: “Chiunque utilizzi Grok per creare contenuti illegali subirà le stesse conseguenze come se caricasse contenuti illegali”. Questo commento equiparava la responsabilità legale dell'utilizzo dell'intelligenza artificiale per tali scopi al caricamento diretto di materiale proibito sulla piattaforma. https://twitter.com/elonmusk/status/2007475612949102943 Venerdì il ministero IT indiano ha emesso un ordine che ordinava a X di impedire a Grok di produrre contenuti classificati come “osceni, pornografici, volgari, indecenti, sessualmente espliciti, pedofili o altrimenti vietati dalla legge”. Il ministero ha richiesto una risposta da parte di X entro 72 ore, avvertendo che la mancata osservanza potrebbe comportare la perdita delle protezioni “safe harbour”, che esentano le piattaforme dalla responsabilità per i contenuti generati dagli utenti. La procura di Parigi in Francia ha informato Politico della sua decisione di indagare sulla proliferazione di deepfake sessualmente espliciti su X, provocata dai recenti incidenti di Grok e da una più ampia attività della piattaforma. La Malaysian Communications and Multimedia Commission ha rilasciato una dichiarazione in cui esprime seria preoccupazione per le denunce pubbliche riguardanti l'uso improprio degli strumenti di intelligenza artificiale su X. Ha specificato la manipolazione digitale di immagini di donne e minori per creare contenuti indecenti, gravemente offensivi e altrimenti dannosi. La commissione ha confermato che sta indagando su questi danni online sulla piattaforma.
