L’espansione dei servizi basati su intelligenza artificiale ha aperto a innumerevoli opportunità in quasi ogni settore dell’industria tecnologica e del mercato dei consumatori. Dalla modifica semplice di un’immagine alla sintesi di lunghi documenti, l’intelligenza artificiale semplifica molte operazioni. Anche i malintenzionati hanno accesso a queste tecnologie. Un recente rapporto di Google ha rivelato che i suoi strumenti di AI sono stati utilizzati per generare contenuti deepfake legati al terrorismo.
google rivela che gemini ha generato contenuti deepfake legati al terrorismo e all’abuso infantile
Il più recente rapporto sulla sicurezza di Google copre il periodo da aprile 2023 a febbraio 2024. Secondo l’agenzia australiana, la tecnologia del gigante di Mountain View è stata responsabile della creazione di contenuti deepfake terroristici. Inoltre, il rapporto menziona l’utilizzo di Gemini per generare materiale relativo all’abuso infantile.
“Questo sottolinea quanto sia fondamentale per le aziende che sviluppano prodotti AI implementare e testare l’efficacia delle misure di sicurezza per prevenire la generazione di questo tipo di materiale”, ha affermato Julie Inman, Commissaria dell’eSafety.
Google ha ricevuto 258 segnalazioni riguardanti casi di contenuti deepfake AI associati al terrorismo o all’estremismo violento. Inoltre, ci sono state 86 segnalazioni relative alla generazione da parte di attori malintenzionati di materiale riguardante lo sfruttamento o l’abuso infantile tramite Gemini. Google adotta una politica rigorosa nella rimozione del materiale relativo allo sfruttamento infantile, utilizzando un sistema chiamato hatch-matching per rilevare tali immagini e rimuoverle rapidamente. Questa tecnologia non viene applicata ai contenuti relativi all’estremismo.
sanzioni già inflitte dalla commissione australiana a telegram e x
L’agenzia eSafety ha elogiato Google per la sua trasparenza nel rivelare gli usi malevoli che alcuni attori criminali stanno facendo dei suoi strumenti AI. Il rapporto è stato definito un “sguardo pionieristico” dall’eSafety Commission australiana. Altre aziende non hanno ricevuto feedback favorevole dall’agenzia; Telegram e X (precedentemente Twitter) hanno subito sanzioni a causa delle carenze nei loro rapporti.
- Julie Inman – Commissaria dell’eSafety
- Google – azienda tecnologica coinvolta nel report
- Terroristi – soggetti associati ai contenuti deepfake
- Bambini – vittime degli abusi menzionati nel report
- Telegram – piattaforma multimediale sanzionata
- X (ex Twitter) – piattaforma multimediale sanzionata
Lascia un commento