l’impatto dell’editing fotografico tramite intelligenza artificiale
L’editing fotografico e la generazione di immagini rappresentano alcune delle capacità più innovative e in continua evoluzione dell’intelligenza artificiale. Strumenti come Sketch to Image di Galaxy AI hanno aperto la strada a scenari sorprendenti, mentre la funzione Reimagine, disponibile sulla famiglia Pixel 9 tramite Magic Editor, ha dimostrato di funzionare altrettanto bene.
le vulnerabilità delle protezioni
Le protezioni implementate nella funzione Reimagine per prevenire la creazione di immagini realistiche e potenzialmente pericolose si sono rivelate insufficienti. Gli studenti del corso Red Teaming 101 della Cornell Tech hanno dimostrato che era relativamente semplice bypassare queste restrizioni, creando immagini inquietanti come trasporti pubblici distrutti e scene caotiche nelle strade di New York.
- Obliterated public transit
- Parks covered in trash
- M1 Abrams tank on the streets of NYC
manipolazione della realtà attraverso l’AI
I risultati emersi dai test condotti da The Verge nel 2024 hanno rivelato ulteriori preoccupazioni, come immagini false di esplosivi e sostanze tossiche fuoriuscite da scuole. Secondo Alexios Mantzarlis, professore alla Cornell Tech, le barriere di sicurezza di Google non sono state efficaci quando il problema risiedeva nell’interazione tra il contenuto dell’immagine e il contesto.
l’intelligenza artificiale come strumento ambivalente
Sebbene l’uso di software per alterare immagini non sia una novità, oggi strumenti accessibili a chiunque possono generare contenuti manipolati senza competenze specifiche. Google sta cercando soluzioni come il watermarking SynthID per le immagini modificate tramite Reimagine; I ricercatori hanno già dimostrato che è possibile rimuovere questi watermark o crearne falsi.
- Evidenti manipolazioni visive nei social media
- Casi controversi legati all’identità culturale dei personaggi pubblici
- Difficoltà nel distinguere tra realtà e finzione nelle notizie virali
La linea tra realtà e finzione si è notevolmente assottigliata, rendendo sempre più difficile discernere ciò che è autentico da ciò che è stato creato artificialmente. Questo fenomeno pone sfide significative nel campo della comunicazione visiva contemporanea.
Lascia un commento