Il segmento dell’intelligenza artificiale continua a svilupparsi e a ridisegnare l’industria tecnologica in modi diversi. Tra gli obiettivi delle aziende più importanti del settore, spicca l’intenzione di fornire un motore di ricerca potenziato dall’AI, con conferme recenti da parte di Google. Anche OpenAI, la società madre di ChatGPT, sta perseguendo un obiettivo simile, testando la propria funzione di ricerca tra alcuni utenti. Attualmente sembra che ChatGPT Search possa generare risultati fuorvianti.
vulnerabilità di ChatGPT Search per risultati manipolati
Un’indagine condotta da The Guardian ha rivelato che ChatGPT Search, nella sua forma attuale, è suscettibile a risultati manipolati. I motori di ricerca basati su AI operano raccogliendo e analizzando dati dai risultati di ricerca per fornire risposte sintetizzate, utili a risolvere rapidamente i problemi degli utenti. Ci sarebbe ancora molto lavoro da fare affinché i risultati siano totalmente affidabili.
metodi di manipolazione dei risultati
Sembra che il modo in cui ChatGPT Search raccoglie e elabora i dati sia vulnerabile a manipolazioni, attraverso tecniche di “iniezione pubblicitaria”. Questo metodo prevede l’inserimento di contenuti nascosti nel codice dei siti web per influenzare i risultati dei motori di ricerca. Tali contenuti possono contenere istruzioni lunghe o testi che portano a risultati favorevoli per determinati interessi.
Ad esempio, un sito web di un negozio potrebbe utilizzare l’iniezione pubblicitaria per far apparire risultati dell’AI che mostrano recensioni estremamente positive su prodotti, nonostante esistano numerose recensioni negative. La fonte ha confermato che un esperimento ha dimostrato questa situazione, con il team di The Guardian che ha creato una pagina di prodotto falsa con molte recensioni negative e istruzioni nascoste favorevoli alle recensioni positive. I risultati di ChatGPT Search hanno costantemente fornito feedback positivi sul prodotto in questione.
consigli degli esperti sull’uso dei motori di ricerca AI
Esperti del settore, come Karsten Nohl, scienziato presso la società di cybersecurity SR Labs, suggeriscono di adottare un approccio cauto nei confronti dei risultati dei motori di ricerca potenziati dall’AI. Si raccomanda di considerare gli strumenti AI come “co-piloti” e di non dare loro tutta l’attenzione. È fondamentale rimanere critici riguardo all’affidabilità dei risultati forniti dai motori di ricerca basati sull’AI.
Google ha affrontato problematiche simili quando ha implementato le AI Overview nella Ricerca. L’azienda ha lavorato su questo aspetto, migliorando la funzionalità, ma permangono ancora ampi margini di miglioramento. Si spera che non ci vorrà molto prima che i risultati di ricerca alimentati dall’AI diventino completamente affidabili.
Lascia un commento