Die halluzinierten Referenzen von ChatGPT veranlassen zu einer Überprüfung der akademischen Integrität

In einem kürzlich erschienenen Blogbeitrag von Jordan MacDonald, einemdent der Experimentellen Psychologie an der Universität von New Brunswick, wurde gezeigt, dass ChatGPT mehr als 90 % der Zitate erzeugte, die es als maßgebliche Referenzen angab. 

In dem Blog „Mind Pad“ der Canadian Psychological Association heißt es, dass KI mittlerweile gefälschte bibliografische Angaben oder Referenzdetails erstellen kann, die manchmal genauso plausibel sind wie die echten, da die KI Informationen einbezieht, an die sich ein Mensch erinnern und die er in seinem Gehirn speichern kann, wie Autor, Titel, Name und korrekt formatierte Digital Objectdent(DOIs). 

Die doppelte Rolle der KI in der akademischen Forschung

Obwohl esdentschwierig sein mag, einen Kontrast zwischen dem Originaltext und den von der KI erstelltenmatickorrekten, aber faktisch falschen Referenzen herzustellen, was sie dazu veranlassen könnte, die Originalität von Ideen im akademischen Kontext in Frage zu stellen.

Die Forschung umfasste die Überprüfung der Echtheit von Zitaten im Bereich der Psychologie in den folgenden sechs Teilgebieten: In der Psychologie untersuchen wir die fünf Bereiche Religionspsychologie, Tierpsychologie, Sozialpsychologie, klinische Psychologie, Persönlichkeitspsychologie und Neuropsychologie. 

Schließlich wurde eine 100%ig genaue Zahl für die Teilfelder generiert, laut ChatGPT 300. Allerdings erwiesen sich nur 32,3 davon als real, was die klare Tendenz für die umrissenen Bereiche widerspiegelt.

KI als Leidenschaft der akademischen Arbeit: Probleme und Nachteile

ChattGPT kann sowohl gefälschte als auch legitime Erfindungen anbieten. Die Studie von MacDonald bestätigte dies. Allerdings stimmt diese spezielle Studie, die in der genannten Aufgabenstellung durchgeführt wurde, nicht mit den Studien überein, die ChattGPT üblicherweise zitiert. 

Anders ausgedrückt: Einsparungen bei den Materialien aufgrund der Fehler des komplexen Modells werden das Vertrauen derdentin diese Vereinfachung stärken. Darüber hinaustracsie eine Diskussion über die im Schulunterricht benötigten Lebenskompetenzen und deren Quellen an. 

Ob die Rolle der KI-Forschung als Mittel zur Durchführung von Bildungsforschung gerechtfertigt ist, hängt davon ab, inwieweit KI Experten simulieren kann

Beispielsweise könnten durch den Einsatz von KI-Tools für die akademische Hauptaufgabe Beweise gefunden werden. Diese Informationen könnten für Präsentationen im Alltag entscheidend sein oder etwas verstreut wirken. Daher bedürfen die intelligenten KI-Tools und Lehrmethoden einer eingehenden Prüfung.

Abwägung der Vorteile und Risiken von KI im Hinblick auf die akademische Integrität

Die Studie beleuchtet jedoch nicht nur die Schwierigkeiten im Zusammenhang mit KI in Schulen, sondern treibt auch die Diskussion darüber voran, ob solche Technologien unter bestimmten Umständen ein wertvolles Instrument in Bildungs- und Forschungsaktivitäten darstellen können. 

Pädagogen und Forscher werden ermutigt, die Grenzen und Möglichkeiten von KI-Technologien wie Chat GPT nicht nur zu erkennen, sondern auch besser zu verstehen, damit sie diese Technologien voll ausschöpfen können, ohne den akademischen Standard zu beeinträchtigen.

Laut MacDonald sollten wir die immensen Vorteile dieser Modelle nicht gänzlich ignorieren, insbesondere wenn sie uns dazu verleiten, uns bei der Erforschung akademischer Themen ausschließlich auf ihre Schlussfolgerungen zu verlassen. Die Ergebnisse deuten zudem auf mögliche Widersprüche durch KI hin, die als Indikatoren für den Einsatz von KI indent Arbeiten dienen können, selbst wenn sie nicht den üblichen Regeln folgen.

Die Weiterentwicklung von KI erfordert zusätzliche Forschung, um ihre Anwendungsgebiete und potenziellen Grenzen zu klären. Scavenge wird neue Strategien zur Erkennung von KI-basiertem Plagiat und anderen Formen des Betrugs erforschen. 

Einerseits bietet die KI, wie beispielsweise ChatGPT, verschiedene Vorteile für die akademische Forschung. Andererseits birgt sie den Nachteil, dass sie Informationen aus dem Kontext reißt (oder gar erfundene Informationen liefert), die Analysten oder Forscher in die Irre führen können.