Pain points di Gemini: Google spiega i malfunzionamenti del sistema

Google ha recentemente affrontato una situazione problematica legata alla propria applicazione Gemini, specificamente nella generazione di immagini di persone, le quali sono risultate essere inesatte e offensive. La società ha dovuto sospendere la funzionalità di generazione di immagini dell’intelligenza artificiale e ha poi fornito un chiarimento sulle cause di questi errori, impegnandosi a migliorare significativamente il servizio prima della sua riattivazione.

spiegazione del problema

La controversia è scaturita quando è stato scoperto che Gemini produceva immagini di persone imprecise e offensive, portando Google a disabilitare la capacità dell’IA di creare tali contenuti. In seguito, l’azienda ha rilasciato un’apologia, approfondendo le cause alla radice del problema.

motivi alla base degli errori

Google ha identificato due principali fattori che hanno condotto alla generazione di immagini inappropriate:

– La prima questione riguardava la metodologia con cui Gemini era programmato per rappresentare un’ampia varietà di persone. L’intenzione era quella di riflettere la diversità razziale del nostro mondo, ma Google ha riconosciuto di non aver tenuto in considerazione casi in cui la generazione di un’ampia varietà non era appropriata.
– Il secondo problema emergeva dal modo in cui Gemini gestiva i prompt considerati sensibili. L’intelligenza artificiale, nella sua cautela, si mostrava reticente nel rispondere a determinati prompt, adottando un approccio più conservativo rispetto a quanto previsto da Google.

prossimi passi

L’azienda ha espresso il proprio impegno nel lavorare per apportare miglioramenti significativi al modello, con l’obbiettivo di evitare la ripetizione di tali errori in futuro. La generazione di immagini di persone rimarrà sospesa fino a che non saranno stati implementati questi miglioramenti. Google propone dunque un percorso di riflessione e aggiornamento tecnico, volto a raffinare le capacità di Gemini in modo responsabile e rispettoso della diversità e sensibilità delle persone.