Il modello di intelligenza artificiale DeepSeek R1, sviluppato dall’azienda cinese DeepSeek, sta attirando l’attenzione non solo per le sue capacità, ma anche per le sue criticità in termini di sicurezza. Secondo un’inchiesta del Wall Street Journal, il chatbot può essere facilmente manipolato per generare contenuti pericolosi, mettendo in dubbio l’efficacia delle sue protezioni contro il jailbreaking.
Più vulnerabile rispetto ad altri modelli
Sam Rubin, vicepresidente senior di Palo Alto Networks, ha dichiarato al Wall Street Journal che DeepSeek R1 è più vulnerabile al jailbreaking rispetto ad altri modelli di IA. Questo significa che può essere ingannato per produrre risposte dannose, anche su argomenti altamente sensibili.
Lo stesso Wall Street Journal ha testato il chatbot, riuscendo a convincerlo a progettare una campagna social mirata ai teenager, sfruttando la loro vulnerabilità emotiva e amplificandola attraverso gli algoritmi. Inoltre, il modello è stato indotto a fornire istruzioni per un attacco con armi biologiche, a scrivere un manifesto pro-Hitler e persino a creare un’email di phishing con codice malevolo.
In confronto, ChatGPT, sottoposto agli stessi prompt, ha rifiutato di rispondere, dimostrando una maggiore resistenza ai tentativi di manipolazione.
Problemi di censura e sicurezza
Un altro aspetto controverso riguarda la selettività delle censure applicate da DeepSeek. Il modello, infatti, evita deliberatamente di trattare temi come Piazza Tiananmen o l’autonomia di Taiwan, mentre si dimostra meno efficace nel filtrare contenuti legati a minacce globali, come dimostrato dai test effettuati.
Inoltre, il CEO di Anthropic, Dario Amodei, ha affermato che DeepSeek ha ottenuto il peggior risultato nei test sulla sicurezza delle armi biologiche, sollevando ulteriori preoccupazioni sulla sua affidabilità.
Un rischio per la sicurezza globale?
La facilità con cui DeepSeek R1 può essere manipolato solleva interrogativi sulla regolamentazione delle IA avanzate. Se da un lato il modello presenta restrizioni su temi sensibili per la Cina, dall’altro sembra avere gravi falle nelle protezioni contro contenuti pericolosi a livello internazionale.
Questo caso evidenzia l’importanza di uno sviluppo responsabile dell’intelligenza artificiale, con controlli più rigidi per prevenire utilizzi malevoli, soprattutto in un contesto di crescente competizione tecnologica tra Cina e Occidente.
