I Riferimenti Hallucinati di ChatGPT Sollecitano Esame nell'Integrità Accademica

in un recente post del blog di Jordan MacDonald, che è uno studente di dottorato in Psicologia Sperimentale all'Università del New Brunswick, è stato mostrato che ChatGPT ha creato più del 90% delle citazioni che ha fornito come riferimenti autorevoli. 

Le News States in Mind Pad dell'Associazione Psicologica Canadese affermano che l'IA ora può creare dettagli bibliografici o di riferimento falsi, che a volte possono essere plausibili quanto quelli reali poiché l'IA includerebbe le informazioni che una persona potrebbe ricordare e memorizzare nel suo cervello come autore, titoli, nomi e identificatori digitali degli oggetti (DOI) correttamente formattati. 

Navigare il ruolo duplice dell'IA nella ricerca accademica

Sebbene gli studenti possano avere difficoltà a formulare un contrasto tra il testo originale e le referenze grammaticalmente corrette ma fattualmente non vere create dall'IA, rendendoli così dubbiosi sull'originalità delle idee negli ambienti accademici.

La ricerca ha coinvolto la verifica dell'autenticità delle citazioni nell'area della psicologia attraverso i seguenti sei sottocampi: in psicologia, studiamo le cinque aree di religione, animale, sociale, clinica, personalità e neuropsicologia. 

Alla fine, è stato generato un numero accurato al 100% per i sottocampi, 300 secondo ChatGPT, tuttavia solo 32,3 di essi si sono rivelati reali, il che indica la chiara tendenza per le aree delineate.

L'IA come passione del lavoro accademico: problemi e svantaggi

ChatGPT può offrire sia un'invenzione falsa che legittima. Lo studio di MacDonald ha corroborato lo stesso. Tuttavia, quello studio specifico condotto con quel prompt non si allinea con quelli che vediamo sempre citati per ChatGPT. 

In altre parole, i risparmi sui materiali a causa degli errori del modello complesso faranno sì che i residenti si fidino di questa semplificazione. Inoltre, attira una discussione sulle competenze di vita di cui abbiamo bisogno a scuola e sulla fonte di tali competenze. 

Che i ruoli della borsa di studio sull'IA come mezzo per condurre ricerche educative siano giustificati dipende dal grado di indistinguibilità che l'IA può raggiungere quando si tratta di simulare esperti

Ad esempio, le prove potrebbero essere scoperte utilizzando strumenti di IA per il compito accademico principale. Queste informazioni potrebbero essere fondamentali per le presentazioni di vita reale o apparire un po' frammentate. Pertanto, gli strumenti intelligenti di IA e gli approcci didattici richiederebbero una seria considerazione.

Bilanciare i benefici e i rischi dell'IA nell'integrità accademica

La ricerca, tuttavia, non solo porta alla luce le difficoltà relative all'IA nelle scuole, ma alimenta anche la discussione su tali tecnologie come strumento prezioso nelle attività educative e di ricerca quando utilizzate in determinate circostanze. 

Si incoraggiano educatori e ricercatori non solo a riconoscere, ma anche a comprendere meglio i limiti e le capacità delle tecnologie IA come Chat GPT, in modo da poterle utilizzare appieno senza compromettere lo standard accademico.

Secondo MacDonald, il fatto che questi modelli abbiano immensi vantaggi non dovrebbe portarci a ignorarli completamente, specialmente se ci inducono a fare affidamento solo sulle loro conclusioni per apprendere gli argomenti accademici che ci interessano. I risultati suggeriscono anche la possibilità di contraddizioni create dall'IA come indicatori del coinvolgimento dell'IA nel lavoro degli studenti, anche se non seguono la regola del pollice.

L'ulteriore sviluppo dell'IA richiede ulteriori studi mirati a chiarire le aree delle sue applicazioni e i potenziali limiti. Scavenge studierà nuove tattiche per il rilevamento del plagio basato sull'IA e altre forme di imbroglio. 

mentre, da un lato, l'IA come ChatGPT può portare vari vantaggi nella ricerca accademica, dall'altro ha lo svantaggio di fornire informazioni fuori contesto (o fabbricate) che possono fuorviare gli analisti o i ricercatori.