OpenAI ritarda il rilascio dello strumento di rilevamento dell'IA a causa di preoccupazioni

OpenAI ha posticipato il rilascio del suo tanto atteso strumento progettato per rilevare il testo generato dal suo modello ChatGPT. Secondo i rapporti, il lancio è stato ritardato a causa di possibili problemi che potrebbero influire sull'esperienza utente e sull'ecosistema.

Il Wall Street Journal ha dichiarato che OpenAI si è preparata a rilasciare lo strumento per l'anno passato ma non l'ha fatto, principalmente a causa dei rischi e di vari problemi. La scelta di posticipare il lancio dello strumento sembra essere correlata anche all'input degli utenti. In un sondaggio condotto da OpenAI, hanno scoperto che quasi un terzo dei suoi fedeli utenti di ChatGPT potrebbe essere scoraggiato dall'introduzione della tecnologia anti-truffa.

Come funziona lo strumento anti-truffa

Secondo il Center for Democracy and Technology, il 59% degli insegnanti delle scuole medie e superiori crede che gli studenti abbiano utilizzato l'IA nei loro compiti, un aumento rispetto all'anno precedente.

Lo strumento anti-truffa funziona incorporando una filigrana nel testo scritto da un'IA. Anche se questa filigrana è invisibile a occhio nudo, la tecnologia di rilevamento di OpenAI è in grado di individuarla. Lo strumento fornisce un punteggio che rappresenta la probabilità che un dato testo sia stato scritto da ChatGPT. Questa tecnica di filigranatura si dice quasi perfetta, poiché i documenti interni rivelano che ha un'efficacia del 99,9 percento quando ChatGPT genera molta contenuto.

Tuttavia, sono state sollevate alcune preoccupazioni riguardo allo strumento. Una delle principali preoccupazioni è che potrebbe essere svantaggioso per coloro che non sono madrelingua inglese. Alcune persone temono che la filigranatura potrebbe non essere efficiente come dovrebbe o potrebbe segnalare come plagio altri lavori di autori con scarse competenze in inglese. Inoltre, i critici hanno espresso preoccupazione che la filigrana possa essere cancellata o manipolata traducendola o inserendo ed eliminando emoji.

Un altro problema è chi dovrebbe avere il permesso di utilizzare lo strumento di rilevamento. Limitare l'accesso potrebbe ridurre l'applicabilità del metodo di filigranatura; tuttavia, consentire l'accesso gratuito potrebbe rendere il metodo inefficace. 

Altri giganti della tecnologia sviluppano soluzioni simili

Sebbene OpenAI non abbia ancora implementato lo strumento anti-truffa per il testo, l'azienda ha già iniziato ad applicare la filigranatura per gli output audio e video. Questi formati multimediali sono stati considerati dall'azienda come priorità perché i deepfake generati dall'IA presentano rischi più elevati rispetto ai contenuti basati sul testo. 

Altre aziende tecnologiche stanno sviluppando soluzioni simili. Ad esempio, Google sta sviluppando la propria soluzione di filigranatura nota come SynthID, che è ancora in fase beta. Tuttavia, OpenAI ha dato priorità alla filigranatura audio e visiva rispetto al testo poiché gli impatti dei primi sono più gravi e possono verificarsi in intervalli critici come gli anni elettorali. 

Questa notizia arriva mentre Elon Musk è tornato in tribunale per citare in giudizio OpenAI, accusando l'azienda e i suoi fondatori, Sam Altman e Greg Brockman, di allontanarsi dall'obiettivo originale di creare un'IA per il miglioramento dell'umanità.