La rivista scientifica ritira un articolo per l'uso non dichiarato dell'IA
- Un giornale ritira un articolo per l'uso non dichiarato dell'IA, sollevando preoccupazioni sull'integrità della ricerca.
- Lo scienziato informatico Guillaume Cabanac scopre il coinvolgimento dell'IA negli articoli accademici.
- Un volume crescente di ricerche mette in discussione il rilevamento dell'assistenza dell'IA, evidenziando la necessità di linee guida più chiare.
In una recente rivelazione, la rispettata rivista scientifica Physica Scripta ha dovuto ritirare un articolo di ricerca pubblicato ad agosto. La causa del ritiro è stata la scoperta che gli autori avevano utilizzato l'applicazione di intelligenza artificiale ChatGPT per comporre l'articolo. Nonostante abbia superato due mesi di revisione tra pari, questo uso dell'IA è rimasto non divulgato, portando a una violazione delle politiche etiche della rivista e suscitando preoccupazioni sulle sfide nel controllare la ricerca assistita dall'IA.
L'articolo pubblicato il 9 agosto su Physica Scripta era dedicato alla ricerca di soluzioni innovative per equazioni matematiche complesse. Tuttavia, conteneva una frase evidente, "Regenerate response" (Rigenera risposta), sulla sua terza pagina. Un lettore attento ha riconosciuto questa frase come corrispondente a un pulsante su ChatGPT, come riportato da Nature.
Riconoscimento dell'assistenza dell'IA
Dopo le indagini, gli autori dell'articolo hanno ammesso di aver impiegato ChatGPT per aiutare a creare il loro manoscritto. La loro ammissione è arrivata dopo che l'articolo aveva superato un lungo processo di revisione tra pari dopo la sua sottomissione a maggio. Questa rivelazione ha spinto l'editore della rivista, con sede nel Regno Unito, a ritirare l'articolo. La mancata divulgazione dell'uso dell'applicazione IA al momento della sottomissione è stata considerata una violazione delle politiche etiche, secondo Kim Eggleton, responsabile della revisione tra pari e dell'integrità della ricerca presso IOP Publishing.
Guillaume Cabanac: Campione della trasparenza
L'apparente svista nel non rilevare la scrittura assistita da ChatGPT è stata portata alla luce da Guillaume Cabanac, un informatico e investigatore dell'integrità in missione dal 2015 per svelare articoli di ricerca che mancano di trasparenza riguardo al loro uso dell'IA. La sua frustrazione per gli articoli fraudolenti guida la dedizione di Cabanac a scoprire pratiche ingannevoli nella pubblicazione accademica.
Cyril Labbé, un collega informatico che collabora con Cabanac in queste indagini, ha spiegato la motivazione di Cabanac, affermando: "Si frustra per gli articoli falsi". La recente scoperta di Cabanac in Physica Scripta non è un incidente isolato; ha anche identificato una situazione simile in un articolo pubblicato su Resources Policy, che includeva "equazioni nonsensiche", evidenziando ulteriormente i potenziali rischi nel processo di revisione tra pari.
Le sfide del controllo dell'IA nella ricerca
Sebbene il processo di revisione tra pari sia progettato per mantenere l'integrità della pubblicazione accademica, il volume crescente di ricerca pubblicata pone sfide significative. Molti revisori non hanno il tempo o le risorse per esaminare meticolosamente ogni aspetto di un articolo, inclusi gli indizi sottili che l'IA potrebbe essere stata utilizzata. David Bimler, un altro ricercatore dedicato all'identificazione di articoli fraudolenti, ha espresso le difficoltà affrontate all'interno dell'ecosistema scientifico, dove la pressione di "pubblicare o perire" può portare a lapsi di supervisione.
"L'intero ecosistema scientifico è pubblicare o perire", ha sottolineato Bimler. Ha notato che il numero enorme di articoli presentati rende difficile per i guardiani verificare approfonditamente ciascuno di essi, potenzialmente permettendo a problemi come l'assistenza IA non dichiarata di passare inosservati.
La risposta di Physica Scripta
Nonostante le crescenti preoccupazioni legate a questo incidente, Physica Scripta non ha ancora rilasciato una risposta ufficiale alle richieste di Fox News. Il ritiro del documento in questione sottolinea la necessità di linee guida e migliori pratiche più chiare per i ricercatori quando gli strumenti di IA sono coinvolti nella ricerca e nella scrittura. Mantenere la trasparenza e l'integrità nella ricerca scientifica è fondamentale, soprattutto man mano che le tecnologie di IA diventano sempre più prominenti nel mondo accademico.
Il ritiro del documento da parte di Physica Scripta funge da monito per la comunità scientifica, evidenziando le sfide poste dall'evoluzione della ricerca assistita dall'IA. Man mano che la tecnologia avanza, diventa imperativo stabilire protocolli robusti per la divulgazione del coinvolgimento dell'IA nella ricerca, assicurando che trasparenza e integrità rimangano al centro della pubblicazione accademica. Bilanciare le esigenze della pubblicazione con la necessità di un rigoroso controllo è una sfida che la comunità scientifica deve affrontare per salvaguardare la credibilità della ricerca.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non ci assumiamo alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Raccomandiamo vivamente ricerche indipendenti e/o consultazioni con un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Glory Kaburu
Glory è una giornalista estremamente competente, esperta di strumenti AI e ricerca. È appassionata di intelligenza artificiale e ha scritto diversi articoli sull'argomento. Si tiene aggiornata sugli ultimi sviluppi nell'intelligenza artificiale, nel machine learning e nel deep learning, scrivendone regolarmente.
