Come i criminali mondialmente noti sfruttano Gemini per i loro loschi affari

Il recente rapporto del Google Threat Intelligence Group delinea l’uso controverso del sistema Gemini da parte di attori malevoli, evidenziando come anche i modelli di intelligenza artificiale più avanzati possano essere sfruttati per scopi dannosi. Nonostante le misure di sicurezza implementate per prevenire abusi, alcuni gruppi finanziati da stati hanno trovato modi per utilizzare Gemini a loro vantaggio.

tipi di attacchi e attori coinvolti

Google ha identificato due categorie principali di attacchi. La prima consiste nell’uso di AI per facilitare attività come la generazione di codici funzionali per il malware, mentre la seconda riguarda tentativi diretti di utilizzare l’AI per azioni indesiderate, come il recupero di dati sensibili. Gli attori in gioco sono principalmente divisi in due gruppi, ovvero:

Gruppi di minaccia avanzata (APT)

• Cina
• Iran
• Corea del Nord
• Russia

Operazioni di informazione (IO)

Questi gruppi si concentrano più sulla disinformazione e sulla manipolazione dei social media.

uso di Gemini da parte dei gruppi malevoli

Nonostante i tentativi di “eludere” le protezioni di sicurezza di Gemini siano stati numerosi, il successo di tali endeavours è stato limitato. Principalmente, i gruppi hanno utilizzato Gemini per scopi come:

• Ricerca su obiettivi militari e intelligence
• Spiegazione delle vulnerabilità software
• Assistenza nel coding

strategie di dissimulazione

I gruppi IO hanno impiegato Gemini per migliorare le loro comunicazioni, sfruttando le capacità di traduzione e li hanno aiutati a modificare il tono dei messaggi. Questo ha permesso loro di operare con maggiore efficienza e sotto mentite spoglie.

conclusioni sulle limitazioni dell’AI

Nonostante l’apparente efficienza nel prevenire abusi diretti, emerge la questione delle limitazioni nel mitigare l’uso improprio dell’intelligenza artificiale. Per quanto Google abbia messo in atto misure di sicurezza, l’abilità di scomporre strategie complesse in passi non problematici ha reso possibile il sfruttamento delle capacità AI da parte di attori malevoli, riconoscendo così l’inevitabilità dell’AI nel semplificare operazioni. Un approfondimento completo sul tema è presente nel rapporto dettagliato del Google Threat Intelligence Group, che offre ulteriori informazioni sui gruppi APT e il loro uso di Gemini.