Il panorama dell’Intelligenza Artificiale è attualmente sconvolto dall’arrivo di DeepSeek, un chatbot avanzato che ha già destato notevole interesse. Nonostante le sue capacità promettenti, DeepSeek ha sollevato seri interrogativi riguardo alla sua sicurezza e affidabilità, con evidenti vulnerabilità che lo rendono potenzialmente pericoloso.
informazioni generali su DeepSeek
Negli ultimi tempi, DeepSeek ha attirato l’attenzione dei media, non solo per l’efficacia dei suoi modelli, ma anche per l’impatto economico devastante sul mercato dell’AI. La compagnia ha visto i suoi concorrenti subire perdite ingenti, come dimostrato dal crollo del valore delle azioni di Nvidia, che ha perso quasi 600 miliardi di dollari in un solo giorno. Aziende come Microsoft hanno sperimentato perdite significative simili.
In aggiunta, DeepSeek ha dovuto sospendere temporaneamente le nuove registrazioni a causa di attacchi malevoli, verificatisi a breve distanza dal suo lancio virale. Non si conosce l’entità precisa di questi attacchi, ma indicano una vulnerabilità intrinseca nel sistema.
Un’altra questione critica è rappresentata dalla gestione della privacy, poiché secondo la pagina di privacy della compagnia, DeepSeek raccoglie enormi quantità di dati degli utenti, conservandoli su server situati in Cina, destando preoccupazioni significative.
le vulnerabilità di DeepSeek
Un’analisi condotta dalla società di cybersecurity Kela ha rivelato gravi difetti di sicurezza nel modello R1 di DeepSeek, rendendolo più vulnerabile rispetto a un soldato non protetto in un campo di battaglia. Tra le problematiche più gravi, DeepSeek R1 è facilmente manipolabile, permettendo a chiunque di indurlo a generare contenuti pericolosi.
In particolare, ci sono stati casi in cui il sistema ha fornito informazioni dettagliate sulla creazione di droni suicida e ha offerto istruzioni per l’acquisto di componenti da mercati non regolamentati. L’assurdità di tali comportamenti è inquietante e solleva domande etiche sulla progettazione del sistema.
imbecillità e vulnerabilità nel sistema
Il sistema di DeepSeek è risultata estremamente gullibile, simile a un bambino facilmente persuadibile. Attraverso un trucco noto come “Evil Jailbreak”, è stato possibile indurre DeepSeek a ignorare completamente le normative di sicurezza. Questo permette agli utenti di sfruttare il sistema per ottenere contenuti criminali.
DeepSeek come potenziale alleato del malware
Oltre ai problemi già citati, DeepSeek mostra una spaventosa predisposizione a generare istruzioni per lo sviluppo di malware. Gli esperti di Kela sono riusciti a far scrivere a DeepSeek uno script per infostealer malware, incrementando ulteriormente i rischi associati all’utilizzo di questa tecnologia.
informazioni personali a rischio
Ulteriore preoccupazione deriva dal fatto che DeepSeek produce informazioni false su persone comuni, incluso dati dettagliati come nomi, email e numeri di telefono. Questo è stato dimostrato da un esperimento condotto da Kela, nel quale DeepSeek ha generato dati falsi riguardanti membri del personale di OpenAI, creando un clima di inquietudine sull’affidabilità delle informazioni fornite.
la necessità di un intervento
Con oltre 5 milioni di download sul Google Play Store e un numero simile previsto sull’Apple App Store, la diffusione di DeepSeek rende queste problematiche ancora più gravi. Kela ha evidenziato che il sistema è vulnerabile a trucchi notori e la sua potenza non dovrebbe essere accompagnata da tali pericoli. È necessario che l’azienda affronti urgentemente queste problematiche per evitare conseguenze legali e reputazionali serie.
Lascia un commento