Lo studio di Stanford segnala il 97% di errori nei rilevatori di testo generato dall'IA da parte di GPT

Ricercatori dell'Università di Stanford hanno condotto uno studio che getta luce sull'affidabilità e sui limiti dei rilevatori GPT, gli strumenti progettati per differenziare tra testo scritto da esseri umani e testo generato dall'IA. Un particolare rilevatore ha contrassegnato un schiacciante 97,8% dei saggi TOEFL come generati dall'IA, attribuendo la classificazione errata a una minore "perplessità del testo" nella scrittura in inglese non nativo.

I rilevatori tendevano a percepire una minore variabilità e ricchezza nel vocabolario e nella grammatica, portando alla supposizione errata che il testo fosse stato generato dall'IA. Questo pregiudizio contro i parlanti non nativi di inglese potrebbe influire negativamente su vari settori, inclusi i processi di selezione del personale e gli esami accademici.

Le implicazioni di questi pregiudizi e vulnerabilità sollevano preoccupazioni riguardo ai potenziali impatti negativi sui parlanti non nativi di inglese in vari contesti, come l'assunzione di personale e gli esami scolastici. I risultati indicano che questi rilevatori classificano frequentemente erroneamente la scrittura dei parlanti non nativi di inglese e possono essere facilmente ingannati dal linguaggio letterario.

L'esperimento dello studio sulla classificazione errata

Nella loro indagine, i ricercatori di Stanford hanno valutato le prestazioni di sette rilevatori GPT pronti all'uso, inclusi il rilevatore di OpenAI e GPTZero. Hanno analizzato 91 saggi scritti da cinesi che sostenevano l'esame TOEFL (Test of English as a Foreign Language) e 88 saggi scritti da studenti americani dell'ottavo anno. I rilevatori hanno mostrato una significativa discrepanza di accuratezza, classificando erroneamente i saggi TOEFL scritti da esseri umani come generati dall'IA per il 61% delle volte. In confronto, solo il 5,1% dei saggi degli studenti americani è stato classificato erroneamente come generato dall'IA.

Pregiudizi contro i parlanti non nativi di inglese

Un particolare rilevatore ha contrassegnato un schiacciante 97,8% dei saggi TOEFL come generati dall'IA, attribuendo la classificazione errata a una minore "perplessità del testo" nella scrittura in inglese non nativo. I rilevatori tendevano a percepire una minore variabilità e ricchezza nel vocabolario e nella grammatica, portando alla supposizione errata che il testo fosse stato generato dall'IA. Questo pregiudizio contro i parlanti non nativi di inglese potrebbe influire negativamente su vari settori, inclusi i processi di selezione del personale e gli esami accademici.

Ingannare i rilevatori GPT con il linguaggio letterario

I ricercatori hanno anche esaminato la capacità dei rilevatori GPT di identificare il testo generato dall'IA. Hanno utilizzato ChatGPT per generare risposte ai quesiti dei saggi di ammissione alle università statunitensi e hanno scoperto che, in media, i rilevatori identificavano con successo i saggi generati dall'IA per il 70% delle volte. Tuttavia, quando a ChatGPT è stato chiesto di migliorare i saggi utilizzando un linguaggio letterario, i rilevatori sono stati ingannati e hanno potuto identificare correttamente il testo generato dall'IA solo per il 3,3% delle volte. Risultati simili sono stati osservati quando ChatGPT ha prodotto abstract scientifici.

Implicazioni e questioni sollevate

Lo studio di Stanford solleva preoccupazioni riguardo all'efficacia dei rilevatori GPT, data la loro suscettibilità a essere ingannati e la tendenza a classificare erroneamente il testo scritto da esseri umani. Ciò mette in discussione l'affidabilità e l'utilità di questi rilevatori. I ricercatori sottolineano la necessità di ulteriori ricerche e promuovono il coinvolgimento di tutte le parti interessate dai modelli di IA generativa, come ChatGPT, nelle discussioni relative al loro uso appropriato.

Per rafforzare i rilevatori, i ricercatori propongono di confrontare più testi sullo stesso argomento, comprendendo risposte umane e dell'IA, e di raggrupparli per l'analisi. Questo approccio potrebbe potenzialmente portare a un meccanismo di rilevamento più robusto ed equo. I rilevatori progettati per identificare frasi e strutture troppo utilizzate potrebbero promuovere la creatività e l'originalità nella scrittura.

Mentre continua lo sviluppo di modelli di IA generativa e software di rilevamento, lo studio di Stanford evidenzia i pregiudizi e le vulnerabilità presenti nei rilevatori GPT. La loro propensione a classificare erroneamente la scrittura in inglese non nativo e a essere ingannati dal linguaggio letterario richiede cautela nel loro utilizzo, specialmente in contesti valutativi o educativi. I ricercatori sottolineano l'importanza di una ricerca continua e di discussioni inclusive che coinvolgano tutte le parti interessate per garantire un'applicazione responsabile ed equa dei modelli di IA generativa.