Il mondo dell’intelligenza artificiale si trova al centro di un acceso dibattito, dove i più importanti esperti del settore esprimono preoccupazioni per il suo utilizzo improprio. La rapida evoluzione della tecnologia ha portato con sé opportunità in vari ambiti, ma anche rischi significativi, come sottolineato da Eric Schmidt, ex CEO di Google.
paure di eric schmidt sull’uso improprio dell’intelligenza artificiale
Eric Schmidt ha messo in evidenza una preoccupazione fondamentale riguardo la possibilità che l’intelligenza artificiale possa essere utilizzata in modo dannoso. Secondo Schmidt, le sue ansie non si limitano alle tematiche comuni sulle piattaforme AI. “Le vere paure che ho non sono quelle di cui la maggior parte della gente parla sull’AI—parlo di rischi estremi,” ha dichiarato in un’intervista. Ha citato che, sebbene molte preoccupazioni si concentrino sulle piattaforme cinesi, esistono scenari ben più gravi, come il rischio di usare l’AI per compiere attacchi terroristici.
In particolare, Schmidt ha messo in guardia contro la possibilità che paesi come “Corea del Nord, Iran o Russia” possano sfruttare tali tecnologie in modo illecito, contemplando lo sviluppo di armi biologiche assistite dall’intelligenza artificiale. “Sono sempre preoccupato per lo scenario ‘Osama Bin Laden’, dove una persona malvagia potrebbe usare la tecnologia per danneggiare persone innocenti,” ha aggiunto, esplicitando il timore di attacchi mirati.
l’efficacia delle piattaforme di intelligenza artificiale nel bloccare contenuti nocivi
Le principali piattaforme di intelligenza artificiale hanno installato “barriere” per prevenire contenuti dannosi, ma recenti test condotti da Anthropic e Cisco hanno evidenziato l’inefficacia di tali misure. Voce di rilievo è stata DeepSeek, che ha mostrato un tasso di successo nell’attacco (ASR) del 100%, incapace di bloccare anche i prompt legati a armi biologiche. Anche i modelli GPT 1.5 Pro e Llama 3.1 405B hanno registrato tassi di ASR preoccupanti (86% e 96% rispettivamente).
Schmidt ha manifestato il suo sostegno per la regolamentazione delle aziende di intelligenza artificiale, sottolineando però che una regolamentazione eccessiva potrebbe ostacolare l’innovazione. Ha quindi esortato a trovare un giusto equilibrio tra sviluppo e sicurezza. Ha anche avvallato controlli sulle esportazioni di hardware di AI verso altri paesi, una misura già introdotta dall’ex Presidente Joe Biden prima della conclusione del suo mandato.
cambiamenti recenti nella visione di google sull’intelligenza artificiale
In un contesto affollato di sorprese, Google ha recentemente rivisitato la sua visione in merito all’intelligenza artificiale, aggiornando le proprie politiche per aprire la strada all’utilizzo della tecnologia AI nel campo della preparazione di armi e della sorveglianza.
Lascia un commento