L'uso non dichiarato di ChatGPT solleva preoccupazioni nella pubblicazione scientifica

In uno sviluppo recente che ha creato onde d'urto nella comunità scientifica, i ricercatori hanno identificato casi di utilizzo disonesto di ChatGPT, un popolare chatbot AI, negli articoli scientifici. Queste rivelazioni evidenziano una crescente preoccupazione riguardo alla trasparenza e all'integrità delle pubblicazioni di ricerca.

La scoperta

Il 9 agosto, la rivista *Physica Scripta* ha pubblicato un articolo che mirava a svelare complesse equazioni matematiche. Tuttavia, l'informatico Guillaume Cabanac ha notato una strana frase nella terza pagina del manoscritto: 'Regenerate response' (Rigenera risposta). Questa frase si è rivelata un'etichetta di ChatGPT, un chatbot AI utilizzato per generare testo in risposta ai prompt degli utenti. Cabanac ha immediatamente condiviso le sue scoperte su PubPeer, una piattaforma in cui gli scienziati discutono la ricerca pubblicata.

Indagini successive hanno rivelato che gli autori dell'articolo avevano effettivamente impiegato ChatGPT per assistere nella stesura del loro manoscritto. Remarkabilmente, questa anomalia era passata inosservata durante il processo di revisione tra pari di due mesi e la fase di impaginazione. Di conseguenza, l'editore, IOP Publishing, ha deciso di ritirare l'articolo a causa del mancato dichiarazione da parte degli autori dell'uso dello strumento durante la sottomissione.

Il problema più ampio

Questo caso non è un incidente isolato. Da aprile, Guillaume Cabanac ha identificato oltre una dozzina di articoli di riviste contenenti le tipiche frasi di ChatGPT 'Regenerate response' o 'Come modello linguistico AI, io…', tutti pubblicati su PubPeer. Molti editori, tra cui Elsevier e Springer Nature, permettono l'uso di ChatGPT e modelli linguistici simili purché gli autori lo dichiarino.

Tuttavia, questi casi di rilevamento rappresentano solo la punta dell'iceberg. I ricercatori sospettano che numerosi articoli peer-reviewed non dichiarati abbiano utilizzato ChatGPT senza la dovuta dichiarazione. Le frasi stesse sono evolute, con ChatGPT che ha cambiato il suo pulsante 'Regenerate response' in 'Regenerate' in un aggiornamento.

Uso non dichiarato attraverso le riviste

Guillaume Cabanac ha scoperto frasi tipiche di ChatGPT in articoli pubblicati su riviste Elsevier. In un caso, un articolo pubblicato su *Resources Policy* il 3 agosto ha esplorato l'impatto dell'e-commerce sull'efficienza dei combustibili fossili nei paesi in via di sviluppo. Cabanac ha notato incongruenze nelle equazioni, ma la rivelazione è stata una dichiarazione sopra una tabella: 'Si noti che come modello linguistico AI, non sono in grado di generare tabelle specifiche o condurre test…'

Elsevier ha riconosciuto il problema e lo sta attualmente indagando. Gli autori dell'articolo, affiliati all'Università di Liaoning a Shenyang, in Cina, e all'Accademia Cinese di Commercio ed Economia Internazionale a Pechino, non hanno risposto alle richieste di commento.

La sfida del rilevamento dell'inganno

Articoli parzialmente o interamente scritti da software informatico senza dichiarazione non sono nuovi, ma tipicamente presentano tracce distinguibili come modelli linguistici o frasi mal tradotte. Eliminare le frasi standard di ChatGPT, tuttavia, rende il testo generato dall'IA quasi impossibile da individuare. Questo crea una sfida continua per la comunità scientifica, spesso descritta come una "corsa agli armamenti" tra truffatori e coloro che cercano di mantenere l'integrità della ricerca.

Impatto sulla revisione tra pari

L'uso non dichiarato di ChatGPT è emerso anche in articoli di conferenze peer-reviewed e preprint. Gli autori, quando confrontati su PubPeer, hanno talvolta ammesso di aver utilizzato ChatGPT senza dichiarazione. Questa rivelazione evidenzia un problema significativo – i revisori tra pari sovraccarichi potrebbero non avere tempo sufficiente per esaminare approfonditamente i manoscritti alla ricerca di segnali di allarme.

L'ascesa dei manoscritti falsi

La proliferazione di strumenti di IA generativa come ChatGPT solleva preoccupazioni riguardo alla potenziale ascesa di cartelle di carta (paper mills), aziende che producono e vendono manoscritti falsi ai ricercatori che cercano di aumentare la loro produzione di pubblicazioni. Questo fenomeno minaccia di esacerbare un problema già difficile nella pubblicazione accademica.

Rilevare l'inganno

I modelli linguistici come ChatGPT sono noti per generare riferimenti falsi, un potenziale segnale per i revisori tra pari che tentano di rilevare il loro uso nei manoscritti. Riferimenti fittizi sono stati identificati in alcuni casi, fungendo da segnali di allarme per avvisare i revisori. La vigilanza nella verifica dei riferimenti sta diventando sempre più importante.

La scoperta dell'uso non dichiarato di ChatGPT nelle pubblicazioni scientifiche sottolinea l'importanza della trasparenza e dell'integrità nella ricerca. Mentre la comunità scientifica affronta le sfide poste dagli strumenti AI in evoluzione, è evidente che linee guida più rigorose e una maggiore vigilanza nella revisione tra pari sono essenziali per mantenere la credibilità della pubblicazione accademica. Affrontare questi problemi è fondamentale per garantire che la ricerca della conoscenza rimanga fondata su principi etici e pratiche di ricerca rigorose.