L’avvento della rivoluzione dell’intelligenza artificiale ha introdotto una varietà di servizi e strumenti che semplificano la vita quotidiana in molteplici ambiti, dal lavoro all’istruzione, fino all’intrattenimento. Questa evoluzione ha avuto un impatto significativo sull’industria tecnologica, accelerando il suo sviluppo in tempi brevi. Figure di spicco come Eric Schmidt esprimono preoccupazioni riguardo agli scenari più allarmanti, nel caso in cui l’AI venga utilizzata in modo inappropriato.
paura di schmidt: l’uso improprio dell’intelligenza artificiale
Schmidt ha condiviso un punto di vista che merita attenzione. Secondo lui, “le vere paure non sono quelle comunemente discusse sull’AI, ma il rischio estremo”, come riportato in un’intervista con la BBC. Molti temono l’uso delle piattaforme AI cinesi, mentre Schmidt avanza addirittura la possibilità che tali tecnologie possano facilitare attacchi terroristici.
L’ex CEO ha citato paesi come “la Corea del Nord, l’Iran e persino la Russia”, che potrebbero sfruttare l’AI in modi dannosi. Ha messo in evidenza la minaccia di “attacchi biologici da parte di individui malintenzionati”, referendosi allo sviluppo di armi biologiche assistite dall’AI. “Mi preoccupa sempre lo scenario dell’‘Osama Bin Laden’”, ha aggiunto, in cui individui malvagi potrebbero utilizzare questi strumenti per nuocere agli innocenti.
efficacia limitata delle piattaforme AI contro contenuti dannosi
Le piattaforme AI principali hanno implementato barriere per contenuti pericolosi, cercando di bloccare output potenzialmente nocivi. Recenti test condotti da Anthropic e Cisco hanno dimostrato che le attuali misure di protezione si rivelano inefficaci. In particolare, DeepSeek ha registrato un Attacco Success Rate (ASR) del 100%, incapace di bloccare anche suggerimenti riguardanti armi biologiche, sollevando ulteriori preoccupazioni.
Inoltre, modelli come GPT 1.5 Pro e Llama 3.1 405B hanno mostrato alti tassi di ASR, rispettivamente del 86% e 96%. Schmidt ha espresso il suo supporto per regolamentazioni sulle aziende di AI, ma ha anche sottolineato che regolamentazioni eccessive potrebbero ostacolare l’innovazione. Ha suggerito di trovare un equilibrio tra sviluppo e sicurezza, dando sostegno anche a controlli delle esportazioni di hardware AI verso altri paesi.
Durante il suo mandato, l’ex presidente Joe Biden ha implementato misure per limitare l’avanzata dei concorrenti nel campo dell’AI, una decisione che potrebbe essere modificata dal successivo presidente, Donald Trump.
il recente cambio di rotta di google sull’AI
In questo contesto, Google ha aggiornato le proprie politiche, aprendo la possibilità di utilizzare la sua tecnologia AI per lo sviluppo di armi e sorveglianza, un cambiamento significativo nella sua visione originale.
Lascia un commento