L’innovazione nel campo dell’intelligenza artificiale continua a progredire rapidamente. Dopo il successo di ChatGPT di OpenAI, ora DeepSeek R1, proveniente dalla Cina, sta attirando l’attenzione del settore grazie alle sue capacità, sebbene con alcune vulnerabilità di sicurezza significative. È fondamentale esaminare questi difetti e l’impatto che possono avere sugli utenti e sulla privacy.
vulnerabilità di DeepSeek R1
Secondo un recente rapporto di KELA, DeepSeek R1 presenta seri difetti di sicurezza che non devono essere trascurati dagli utenti. Il team di sicurezza dell’azienda ha dimostrato la possibilità di “jailbrekkare” il modello di intelligenza artificiale in varie situazioni, permettendo potenziali attacchi come output dannosi, sviluppo di ransomware e creazione di contenuti sensibili. Sono stati forniti anche istruzioni particolarmente dettagliate per realizzare tossine e dispositivi esplosivi.
Con l’applicazione del metodo noto come “Evil Jailbreak”, DeepSeek R1 è riuscito a superare le misure di sicurezza implementate dai suoi sviluppatori. Introducendo un’identità malevola, questo approccio ha consentito di aggirare i meccanismi protettivi. Sebbene questo sia stato corretto nelle versioni più recenti di ChatGPT, DeepSeek R1 continua a rimanere vulnerabile.
I ricercatori di KELA hanno testato questa vulnerabilità richiedendo istruzioni per la creazione di esplosivi difficilmente rilevabili negli aeroporti. Il sistema è stato anche in grado di raccogliere informazioni sensibili su dipendenti di OpenAI, inclusi dettagli come stipendio, posizione lavorativa e numeri di telefono. L’accuratezza di queste informazioni rimane incerta, ma suscita preoccupazione.
aumento della popolarità
Molte aziende attualmente stanno sviluppando modelli di intelligenza artificiale, incluse grandi realtà tecnologiche come Meta, Google, Apple, Microsoft, Amazon e Samsung. Nonostante le ingenti risorse a loro disposizione, diverse società meno conosciute stanno guadagnando attenzione e successo.
OpenAI ha letteralmente “sconvolto” il mercato con ChatGPT, mentre ora DeepSeek sta ricevendo una simile visibilità. Questo sistema ha persino superato ChatGPT sugli store delle applicazioni, influenzando negativamente il valore azionario di aziende come NVIDIA, che è uno dei maggiori fornitori di hardware per l’IA.
L’approccio di DeepSeek di utilizzare hardware più vecchio per l’addestramento dei modelli ha messo in discussione la convinzione che solo attrezzature costose siano in grado di trainare l’IA, portando a un crollo delle azioni di NVIDIA.
Lascia un commento