ChatGPTs halluzinierte Referenzen führen zu Überprüfung in der akademischen Integrität

In einem kürzlich erschienenen Blogbeitrag von Jordan MacDonald, einem Promovierenden für Experimentelle Psychologie an der University of New Brunswick, wurde gezeigt, dass ChatGPT mehr als 90 % der von ihm als autoritative Referenzen angegebenen Zitate erstellt hat. 

The News States im Mind Pad der Canadian Psychological Association, dass KI nun gefälschte bibliografische oder Referenzdetails erstellen kann, die manchmal genauso plausibel wirken wie echte, da KI Informationen einfügt, die eine Person sich merken und im Gehirn speichern würde, wie Autoren, Titel, Namen und korrekt formatierte digitale Objekt-Identifikatoren (DOIs). 

Navigieren durch die duale Rolle der KI in der akademischen Forschung

Obwohl Studierenden es schwerfallen mag, einen Kontrast zwischen dem Originaltext und KI-generierten, grammatikalisch korrekten, aber faktisch unzutreffenden Referenzen zu formulieren, was sie dazu bringt, die Originalität von Ideen in akademischen Kontexten zu hinterfragen.

Die Forschung umfasste die Überprüfung der Authentizität von Zitaten im Bereich der Psychologie in folgenden sechs Teilbereichen: In der Psychologie untersuchen wir fünf Bereiche: Religion, Tierpsychologie, Sozialpsychologie, Klinische Psychologie, Persönlichkeitspsychologie und Neuropsychologie. 

Schließlich wurden 100 % genaue Zahlen für die Teilbereiche generiert, laut ChatGPT 300; jedoch erwiesen sich nur 32,3 davon als real. Dies verdeutlicht deutlich die Tendenz in den umrissenen Bereichen.

KI als Leidenschaft akademischer Arbeit: Probleme und Nachteile

ChatGPT kann sowohl eine Fälschung als auch eine legitime Erfindung liefern. Die Studie von MacDonald bestätigte dies ebenfalls. Allerdings stimmt diese spezifische Studie, die auf diesem Prompt basiert, nicht mit den Fällen überein, bei denen wir ChatGPT üblicherweise zitiert sehen. 

Mit anderen Worten: Einsparungen bei Materialien aufgrund der Fehler des komplexen Modells könnten dazu führen, dass Bewohner dieser Vereinfachung vertrauen. Zudem regt dies eine Diskussion über die Lebenskompetenzen an, die wir in der Schule benötigen, sowie über die Herkunft solcher Kompetenzen. 

Ob die Rolle der KI-Stipendien als Mittel zur Durchführung von Bildungsforschung gerechtfertigt ist, hängt vom Grad der Ununterscheidbarkeit ab, den KI beim Simulieren von Expertinnen und Experten erreichen kann.

Beispielsweise könnten Beweise durch den Einsatz von KI-Tools für die Hauptaufgabe im akademischen Bereich aufgedeckt werden. Diese Informationen könnten entscheidend für Lebenspräsentationen sein oder etwas unzusammenhängend wirken. Daher erfordern intelligente KI-Tools und Lehransätze eine ernsthafte Prüfung.

Abwägung der Vorteile und Risiken von KI in Bezug auf akademische Integrität

Die Forschung bringt jedoch nicht nur die Schwierigkeiten im Zusammenhang mit KI an Schulen ans Licht, sondern treibt auch die Diskussion darüber voran, solche Technologien unter bestimmten Umständen als wertvolles Instrument in Bildungs- und Forschungsaktivitäten einzusetzen. 

Lehrende und Forschende werden ermutigt, nicht nur die Grenzen und Fähigkeiten von KI-Technologien wie ChatGPT anzuerkennen, sondern diese auch besser zu verstehen, um sie vollumfänglich nutzen zu können, ohne den akademischen Standard zu beeinträchtigen.

Laut MacDonald sollte die Tatsache, dass diese Modelle immense Vorteile bieten, nicht dazu führen, dass wir sie völlig ignorieren, insbesondere wenn sie uns in die Irre führen und uns dazu verleiten, uns ausschließlich auf ihre Schlussfolgerungen zu verlassen, um uns mit den akademischen Themen vertraut zu machen, die uns interessieren. Die Ergebnisse deuten zudem darauf hin, dass von der KI erzeugte Widersprüche als Indikatoren für eine KI-Beteiligung an studentischen Arbeiten dienen können, selbst wenn sie nicht den allgemeinen Daumenregeln entsprechen.

Die weitere Entwicklung von KI erfordert zusätzliche Studien, die darauf abzielen, die Anwendungsbereiche und potenziellen Grenzen dieser Technologie zu klären. Scavenge wird neue Taktiken zur Erkennung von KI-basiertem Plagiat und anderen Formen des Betrugs erforschen. 

Während KI-Modelle wie ChatGPT einerseits verschiedene Vorteile in der akademischen Forschung bieten können, haben sie andererseits den Nachteil, Informationen aus dem Kontext zu liefern (oder sogar fabrizierte), die Analysten oder Forscher in die Irre führen können.