Gli esperti avvertono che Deepseek, un’intelligenza artificiale generativa sviluppata in Cina, ha fallito più test di sicurezza, sollevando preoccupazioni sui rischi per gli utenti. Il fornitore di sicurezza della Silicon Valley APSOC ha scoperto vulnerabilità significative, inclusa la capacità di rompere il jailbreak l’IA e generare malware.
L’intelligenza artificiale cinese Deepseek fallisce i test di sicurezza
David Reid, un esperto di sicurezza informatica presso la Cedarville University, ha espresso allarme per i risultati dei test. “Ha fallito un sacco di parametri di riferimento in cui si poteva jailbreat. In alcuni casi potresti generare malware reale che è una grande bandiera rossa “, ha affermato. Reid ha osservato che questi fallimenti sono particolarmente importanti, consentono la potenziale creazione di codice dannoso.
Appsoc analisi Assegnato a DeepEek un punteggio di rischio di 8,3 su 10, raccomandando contro il suo utilizzo in impostazioni aziendali che coinvolgono dati sensibili o proprietà intellettuale. Anjana Susarla, esperta di AI responsabile presso la Michigan State University, ha fatto eco a questo sentimento, chiedendo se le organizzazioni potessero manipolare DeepSeek per accedere alle informazioni riservate dell’azienda.
Mentre DeepSeek può sembrare eseguire in modo simile a modelli di intelligenza artificiale stabiliti come Chatgpt, Susarla ha consigliato di usarlo in chatbot o applicazioni rivolte ai clienti, affermando: “La risposta è no. Le implicazioni dell’utilizzo di un modello così non testato potrebbero portare a significative vulnerabilità di sicurezza.
Una maggiore preoccupazione deriva dalle origini cinesi di Deepseek, paragonabili alla controversia che circonda la piattaforma di social media Tiktok, che ha affrontato un controllo da parte dei legislatori statunitensi per le sue pratiche di sicurezza dei dati. I membri della Camera degli Stati Uniti hanno recentemente annunciato l’intenzione di introdurre una legislazione che vieta DeepSeek sui dispositivi governativi, citando il rischio di accesso ai dati da parte del Partito Comunista cinese.
DeepSeek R1 vs O3-Mini in performance, costi e resa dei conti di usabilità
“Questo è un incendio per la sicurezza nazionale a cinque allarmi”, ha dichiarato il rappresentante americano Josh Gottheimer dal New Jersey. Ha sottolineato la necessità di prevenire qualsiasi infiltrazione di dispositivi dei dipendenti governativi, ricordando problemi passati con Tiktok.
A partire da ora, alcuni si sono uniti come Italia E Australia hanno già messo in atto divieti su DeepSeek per uso del governo. Nonostante gli sforzi per gestire i rischi, esperti di sicurezza informatica come Dimitri Sirota, CEO di Bigid, riconoscono che potrebbe essere difficile dissuadere gli utenti medi dal download e utilizzando l’applicazione. La tentazione di nuove tecnologie popolari spesso supera il comportamento dell’utente.
Le preoccupazioni per quanto riguarda DeepSeek includono non solo le sue vulnerabilità tecniche, ma anche i rischi geopolitici associati al software legati alla Cina. I dati raccolti da DeepSeek possono essere soggetti alla legge cinese, che richiede di divulgare le informazioni dell’utente su richiesta del governo.
Gli esperti avvertono che il governo cinese possiede le capacità di analizzare i dati aggregati da DeepSeek insieme ad altre fonti per creare potenzialmente profili degli utenti americani. Questa situazione è parallela alle apprensioni che circondano Tiktok, dove le preoccupazioni persistevano per il partito comunista cinese che sfrutta i dati degli utenti a fini di intelligence.
Per mitigare i rischi quando si utilizza DeepSeek o altri modelli di intelligenza artificiale, gli esperti di sicurezza informatica raccomandano le migliori pratiche come garantire password univoci forti e consentire l’autenticazione a due fattori. Gli utenti dovrebbero anche essere cauti nella condivisione di informazioni personali con applicazioni di intelligenza artificiale e rimangono scettici sulle richieste di dati sensibili.
Infine, gli utenti dovrebbero leggere attentamente i termini e le condizioni di qualsiasi applicazione AI prima dell’uso, per comprendere l’utilizzo dei dati e le pratiche di condivisione. Gli esperti avvertono che le applicazioni basate in Cina o in altri stati contraddittori dovrebbero essere trattate con un aumento del controllo a causa dei potenziali rischi associati alla privacy e alla sicurezza dei dati.
