Undeklarierter Einsatz von ChatGPT löst Bedenken in der wissenschaftlichen Veröffentlichungslandschaft aus

In einer jüngsten Entwicklung, die Wellen durch die wissenschaftliche Gemeinschaft geschickt hat, haben Forscher Fälle von unehrlicher Nutzung von ChatGPT, einem beliebten KI-Chatbot, in wissenschaftlichen Artikeln identifiziert. Diese Enthüllungen unterstreichen wachsende Bedenken hinsichtlich der Transparenz und Integrität von Forschungspublications.

Die Entdeckung

Am 9. August veröffentlichte das Journal *Physica Scripta* einen Artikel, der komplexe mathematische Gleichungen entschlüsseln sollte. Das scharfe Auge des Computerwissenschaftlers Guillaume Cabanac entdeckte jedoch auf der dritten Seite des Manuskripts eine seltsame Phrase: „Regenerate response“ (Antwort neu generieren). Diese Phrase erwies sich als Label von ChatGPT, einem KI-Chatbot, der zur Textgenerierung auf Basis von Benutzeranfragen dient. Cabanac teilte seine Erkenntnisse umgehend auf PubPeer, einer Plattform, auf der Wissenschaftler über veröffentlichte Forschung diskutieren.

Nachfolgende Untersuchungen ergaben, dass die Autoren des Papers ChatGPT tatsächlich zur Unterstützung beim Verfassen ihres Manuskripts eingesetzt hatten. Bemerkenswerterweise war diese Anomalie während des zweimonatigen Peer-Review-Prozesses und der Satzphase unbemerkt geblieben. Infolgedessen entschied der Verlag, IOP Publishing, den Artikel zurückzuziehen, da die Autoren ihre Nutzung des Tools bei der Einreichung nicht offengelegt hatten.

Das übergeordnete Problem

Dieser Fall ist kein isoliertes Ereignis. Seit April hat Guillaume Cabanac mehr als ein Dutzend Zeitschriftenartikel identifiziert, die die typischen ChatGPT-Phrasen „Regenerate response“ oder „As an AI language model, I…“ (Als KI-Sprachmodell bin ich…) enthalten, die alle auf PubPeer gepostet wurden. Viele Verlage, darunter Elsevier und Springer Nature, erlauben die Nutzung von ChatGPT und ähnlichen Sprachmodellen, solange die Autoren dies offenlegen.

Diese entdeckten Fälle stellen jedoch nur die Spitze des Eisbergs dar. Forscher vermuten, dass zahlreiche nicht peer-reviewte oder nicht ordnungsgemäß deklarierte Artikel ChatGPT ohne richtige Offenlegung genutzt haben. Die Phrasen selbst haben sich weiterentwickelt, wobei ChatGPT seine Schaltfläche „Regenerate response“ in einem Update zu „Regenerate“ geändert hat.

Undeklarierte Nutzung in verschiedenen Zeitschriften

Guillaume Cabanac hat typische ChatGPT-Phrasen in in Elsevier-Zeitschriften veröffentlichten Papern aufgedeckt. In einem Fall untersuchte ein am 3. August in *Resources Policy* veröffentlichter Artikel die Auswirkungen des E-Commerce auf die Effizienz fossiler Brennstoffe in Entwicklungsländern. Cabanac stellte Inkonsistenzen in den Gleichungen fest, aber der entscheidende Hinweis war eine Aussage über einer Tabelle: „Bitte beachten Sie, dass ich als KI-Sprachmodell keine spezifischen Tabellen generieren oder Tests durchführen kann…“

Elsevier hat das Problem anerkannt und untersucht es derzeit. Die Autoren des Papers, die der Liaoning-Universität in Shenyang, China, und der Chinesischen Akademie für internationalen Handel und wirtschaftliche Zusammenarbeit in Peking angehören, haben auf Anfragen nach einer Stellungnahme nicht reagiert.

Die Herausforderung der Aufdeckung von Täuschung

Papiere, die teilweise oder vollständig von Computersoftware ohne Offenlegung verfasst wurden, sind keine Neuheit, weisen jedoch typischerweise unterscheidbare Spuren wie Sprachmuster oder falsch übersetzte Phrasen auf. Das Löschen der Standard-ChatGPT-Phrasen macht den KI-generierten Text jedoch nahezu unmöglich zu erkennen. Dies stellt die wissenschaftliche Gemeinschaft vor eine anhaltende Herausforderung, die oft als „Wettrüsten“ zwischen Betrügern und denen beschrieben wird, die die Integrität der Forschung aufrechterhalten wollen.

Auswirkungen auf das Peer-Review

Der undeklarierte Einsatz von ChatGPT hat sich auch in peer-reviewten Konferenzpapieren und Preprints gezeigt. Autoren haben sich auf PubPeer, wenn sie konfrontiert wurden, manchmal zum Einsatz von ChatGPT ohne Deklaration bekannt. Diese Enthüllung hebt ein signifikantes Problem hervor – überlastete Peer-Reviewer haben möglicherweise nicht genügend Zeit, Manuskripte gründlich auf rote Fahnen zu überprüfen.

Der Aufstieg gefälschter Manuskripte

Die Verbreitung generativer KI-Tools wie ChatGPT weckt Bedenken hinsichtlich des potenziellen Aufstiegs von „Paper Mills“, also Unternehmen, die gefälschte Manuskripte produzieren und an Forscher verkaufen, die ihre Publikationsleistung steigern möchten. Dieses Phänomen droht ein bereits schwieriges Problem im akademischen Verlagswesen zu verschärfen.

Täuschung erkennen

Sprachmodelle wie ChatGPT sind dafür bekannt, falsche Referenzen zu generieren, ein potenzielles Signal für Peer-Reviewer, die ihren Einsatz in Manuskripten erkennen wollen. In einigen Fällen wurden fiktive Referenzen identifiziert, die als Warnsignale dienen, um Reviewer aufmerksam zu machen. Die Wachsamkeit bei der Überprüfung von Referenzen wird zunehmend wichtiger.

Die Entdeckung der undeklarierten ChatGPT-Nutzung in wissenschaftlichen Publikationen unterstreicht die Bedeutung von Transparenz und Integrität in der Forschung. Während die wissenschaftliche Gemeinschaft mit den Herausforderungen durch sich entwickelnde KI-Tools kämpft, wird deutlich, dass strengere Richtlinien und erhöhte Wachsamkeit im Peer-Review-Prozess unerlässlich sind, um die Glaubwürdigkeit der akademischen Veröffentlichungen aufrechtzuerhalten. Die Bewältigung dieser Probleme ist von größter Bedeutung, um sicherzustellen, dass die Suche nach Wissen auf ethischen Grundsätzen und rigorosen Forschungspraktiken basiert.