OpenAI ritarda il rilascio dello strumento di rilevamento dell'intelligenza artificiale a causa delle preoccupazioni

OpenAI ha posticipato il rilascio del suo attesissimo strumento progettato per rilevare il testo generato dal suo modello ChatGPT. Secondo quanto riportato, il lancio è stato posticipato a causa di possibili problemi che potrebbero influire sull'esperienza utente e sull'ecosistema.

Il Wall Street Journal ha affermato che OpenAI si stava preparando a rilasciare lo strumento da un anno, ma non lo ha fatto, principalmente a causa di rischi e diverse problematiche. La scelta di posticipare il lancio dello strumento sembra essere legata anche al feedback degli utenti. In un sondaggio condotto da OpenAI, è emerso che quasi un terzo dei suoi fedeli utenti di ChatGPT potrebbe essere dissuaso dall'introduzione di una tecnologia anti-cheat. 

Come funziona lo strumento anti-cheat

Secondo il Center for Democracy and Technology, il 59% degli insegnanti delle scuole medie e superiori ritiene che glidentabbiano utilizzato l'intelligenza artificiale nei loro compiti, un dato in aumento rispetto all'anno precedente.

Lo strumento anti-cheating funziona incorporando una filigrana nel testo scritto da un'intelligenza artificiale. Sebbene questa filigrana sia invisibile a occhio nudo, la tecnologia di rilevamento di OpenAI è in grado di rilevarla. Lo strumento fornisce un punteggio che rappresenta la probabilità che un determinato testo sia stato scritto da ChatGPT. Questa tecnica di filigrana è considerata quasi perfetta, poiché documenti interni rivelano un'efficacia del 99,9% quando ChatGPT produce grandi quantità di contenuti.

Tuttavia, sono state sollevate alcune questioni riguardo allo strumento. Una delle principali preoccupazioni è che potrebbe risultare svantaggioso per chi non è madrelingua inglese. Alcuni temono che la filigrana non sia efficiente come dovrebbe o che possa segnalare come plagio altre opere di autori con scarse competenze linguistiche. Inoltre, i critici hanno espresso preoccupazione per il fatto che la filigrana possa essere cancellata o manipolata traducendola o inserendo ed eliminando emoji.

Un altro problema è chi dovrebbe essere autorizzato a utilizzare lo strumento di rilevamento. Limitare l'accesso potrebbe ridurre l'applicabilità del metodo di watermarking; tuttavia, consentire il libero accesso potrebbe renderlo inefficace. 

Altri giganti della tecnologia sviluppano soluzioni simili

Sebbene OpenAI non abbia ancora implementato lo strumento anti-cheating per i contenuti testuali, l'azienda ha già iniziato ad applicare la filigrana per i contenuti audio e video. Questi formati multimediali sono stati considerati prioritari dall'azienda perché i deepfake generati dall'intelligenza artificiale presentano rischi maggiori rispetto ai contenuti testuali. 

Anche altre aziende tecnologiche stanno sviluppando soluzioni simili. Ad esempio, anche Google sta sviluppando una propria soluzione di watermarking nota come SynthID, ancora in fase beta. Tuttavia, OpenAI ha dato priorità alla filigrana audio e visiva rispetto al testo, poiché gli impatti delle prime sono più gravi e possono verificarsi in periodi critici come gli anni elettorali. 

Questa notizia arriva mentre Elon Musk è tornato in tribunale per citare in giudizio OpenAI, accusando l'azienda e i suoi fondatori, Sam Altman e Greg Brockman, di essersi allontanati dall'obiettivo originale di creare un'intelligenza artificiale per il miglioramento dell'umanità.