Wissenschaftliches Journal zieht Paper wegen nicht gemeldeter KI-Nutzung zurück
- Journal zieht Paper wegen nicht offengelegter KI-Nutzung zurück, was Bedenken hinsichtlich der Forschungsintegrität aufwirft.
- Informatiker Guillaume Cabanac deckt KI-Beteiligung in akademischen Papers auf.
- Eine wachsende Zahl von Studien stellt die Erkennung von KI-Unterstützung infrage und unterstreicht den Bedarf an klareren Richtlinien.
In einer jüngsten Enthüllung sah sich das respektierte wissenschaftliche Journal Physica Scripta gezwungen, einen im August veröffentlichten Forschungsartikel zurückzuziehen. Der Grund für den Rückzug war die Entdeckung, dass die Autoren die KI-Anwendung ChatGPT verwendet hatten, um den Artikel zu verfassen. Trotz zweimonatiger Begutachtung durch Fachkollegen (Peer Review) blieb diese Nutzung der KI unentdeckt, was zu einem Verstoß gegen die ethischen Richtlinien des Journals führte und Bedenken hinsichtlich der Herausforderungen bei der Kontrolle von KI-unterstützter Forschung aufwarf.
Der am 9. August in Physica Scripta veröffentlichte Artikel widmete sich der Suche nach innovativen Lösungen für komplexe mathematische Gleichungen. Er enthielt jedoch eine auffällige Phrase „Regenerate response“ auf der dritten Seite. Ein aufmerksamer Leser erkannte diese Phrase als Übereinstimmung mit einer Schaltfläche auf ChatGPT, wie von Nature berichtet.
Anerkennung der KI-Hilfe
Nach einer Untersuchung gaben die Autoren des Artikels schließlich zu, ChatGPT zur Unterstützung bei der Erstellung ihres Manuskripts eingesetzt zu haben. Ihr Geständnis erfolgte, nachdem der Artikel einem langen Peer-Review-Prozess nach seiner Einreichung im Mai unterzogen worden war. Diese Enthüllung veranlasste den in Großbritannien ansässigen Verlag des Journals, den Artikel zurückzuziehen. Das Versäumnis, die Nutzung der KI-Anwendung zum Zeitpunkt der Einreichung offenzulegen, wurde von Kim Eggleton, verantwortlich für Peer-Review und Forschungsintegrität bei IOP Publishing, als Verstoß gegen ethische Richtlinien gewertet.
Guillaume Cabanac: Fürsprecher der Transparenz
Der offensichtliche Fehler, die ChatGPT-unterstützte Schrift nicht zu erkennen, wurde von Guillaume Cabanac, einem Informatiker und Integritätsuntersucher, aufgedeckt, der seit 2015 auf einer Mission ist, Forschungsartikel aufzudecken, die keine Transparenz bezüglich ihrer KI-Nutzung bieten. Seine Frustration über betrügerische Artikel treibt Cabanacs Engagement auf, um täuschende Praktiken in der akademischen Veröffentlichung aufzudecken.
Cyril Labbé, ein anderer Informatiker, der mit Cabanac an diesen Untersuchungen zusammenarbeitet, erklärte Cabanacs Motivation und sagte: „Er frustriert sich über gefälschte Artikel.“ Cabanacs jüngste Entdeckung in Physica Scripta ist kein isolierter Vorfall; er identifizierte auch eine ähnliche Situation in einem in Resources Policy veröffentlichten Artikel, der „unsinnige Gleichungen“ enthielt, was die potenziellen Fallstricke im Peer-Review-Prozess weiter hervorhebt.
Herausforderungen bei der Polizeiarbeit mit KI in der Forschung
Zwar ist das Peer-Review-Verfahren darauf ausgelegt, die Integrität der akademischen Veröffentlichung zu wahren, doch die wachsende Menge an veröffentlichter Forschung stellt erhebliche Herausforderungen dar. Viele Gutachter haben weder die Zeit noch die Ressourcen, jeden Aspekt eines Papers – einschließlich subtiler Hinweise auf den Einsatz von KI – penibel zu prüfen. David Bimler, ein weiterer Forscher, der sich der Identifizierung betrügerischer Papers widmet, äußerte die Schwierigkeiten, denen das wissenschaftliche Ökosystem gegenübersteht, in dem der Druck zum „Publish or Perish“ (Veröffentlichen oder Verenden) zu Lücken in der Aufsicht führen kann.
„Das gesamte wissenschaftliche Ökosystem ist vom Prinzip ‚Publish or Perish‘ geprägt“, betonte Bimler. Er wies darauf hin, dass die schiere Anzahl eingereichter Papers es den Gatekeepern erschwert, jedes einzelne gründlich zu prüfen, was dazu führen kann, dass Probleme wie nicht offengelegte KI-Hilfe unbemerkt bleiben.
Die Reaktion von Physica Scripta
Trotz der wachsenden Bedenken bezüglich dieses Vorfalls hat Physica Scripta noch keine offizielle Stellungnahme zu Anfragen von Fox News abgegeben. Der Rückzug des betreffenden Papers unterstreicht die Notwendigkeit klarerer Richtlinien und Best Practices für Forscher, wenn KI-Tools in Forschung und Schreiben eingesetzt werden. Transparenz und Integrität in der wissenschaftlichen Forschung sind von größter Bedeutung, insbesondere da KI-Technologien in der akademischen Welt zunehmend an Präsenz gewinnen.
Der Rückzug des Papers in Physica Scripta dient der wissenschaftlichen Gemeinschaft als warnendes Beispiel und hebt die Herausforderungen hervor, die sich aus der sich wandelnden Landschaft der KI-unterstützten Forschung ergeben. Während die Technologie fortschreitet, ist es unerlässlich, robuste Protokolle zur Offenlegung des KI-Einsatzes in der Forschung zu etablieren, um sicherzustellen, dass Transparenz und Integrität im Vordergrund der akademischen Veröffentlichung stehen. Das Gleichgewicht zwischen den Anforderungen des Veröfentlichens und dem Bedarf an rigoroser Aufsicht zu finden, ist eine Herausforderung, der sich die wissenschaftliche Gemeinschaft stellen muss, um die Glaubwürdigkeit der Forschung zu wahren.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf Basis der auf dieser Seite bereitgestellten Informationen getätigt werden. Wir empfehlen dringend unabhängige Recherchen und/oder die Konsultation eines qualifizierten 5professionellen, bevor Sie Investitionsentscheidungen treffen.
Glory Kaburu
Glory ist eine äußerst versierte Journalistin, die mit KI-Tools und Forschung bestens vertraut ist. Sie ist leidenschaftlich engagiert für KI und hat mehrere Artikel zu diesem Thema verfasst. Sie hält sich über die neuesten Entwicklungen in künstlicher Intelligenz, maschinellem Lernen und Deep Learning auf dem Laufenden und schreibt regelmäßig darüber.
