OpenAI e la filigrana digitale per i testi generati
Secondo quanto riferito dal Wall Street Journal, OpenAI ha sviluppato un sistema capace di creare una filigrana digitale, progettata per identificare testi generati tramite ChatGPT. Nonostante questo strumento sia stato concepito, non è ancora stato reso disponibile al pubblico. La decisione di ritardare il rilascio sembra derivare da preoccupazioni circa il suo impatto sull’utilizzo del chatbot e, di conseguenza, sui ricavi complessivi dell’azienda.
Funzionalità della filigrana
Questa filigrana sarebbe utile per consentire agli utenti di verificare rapidamente se un contenuto è stato creato con l’intelligenza artificiale. Tale funzionalità potrebbe rivelarsi particolarmente vantaggiosa in contesti educativi, dove è essenziale distinguere il lavoro originale da quello generato automaticamente.
Analisi del sistema di identificazione
OpenAI ha confermato al Wall Street Journal di aver lavorato attivamente allo sviluppo di questo sistema di riconoscimento per i testi generati dall’AI. Si stima che la precisione di questo strumento possa raggiungere un livello di efficacia del 99,9%, in grado di identificare anche testi che sono stati soggetti a modifiche successive.
Possibili limitazioni e sfide
Esiste la possibilità diaggirare questo controllo mediante la rielaborazione del testo utilizzando modelli di IA analoghi. Inoltre, OpenAI continua a riflettere sulla questione del lancio di questa tecnologia, poiché un recente sondaggio ha mostrato che un 30% degli utenti sarebbe meno incline a utilizzare ChatGPT se il sistema di riconoscimento venisse implementato.
Prospettive future
Di recente, sul proprio blog, OpenAI ha dichiarato di trovarsi ancora nelle “prime fasi” di esplorazione relativa all’integrazione di metadati. L’azienda ha indicato che è prematuro valutare con certezza l’efficacia dell’approccio attuale, evidenziando il rischio di generare falsi positivi.
Lascia un commento