ChatGPTの未申告の使用が科学出版界で懸念を呼ぶ

科学界に波紋を広げた最近の展開として、研究者たちは、人気のあるAIチャットボットであるChatGPTの不正な利用が科学論文で確認されたと特定した。これらの発見は、研究出版物の透明性と整合性に関する growing な懸念を浮き彫りにしている。

発見

8月9日、学術誌『Physica Scripta』は複雑な数学方程式を解明することを目的とした論文を発表した。しかし、鋭い眼光を持つコンピュータ科学者のGuillaume Cabanacは、原稿の3ページ目に奇妙なフレーズ「Regenerate response」（応答を再生成）に気づいた。このフレーズは、ユーザーのプロンプトに応答してテキストを生成するために使用されるAIチャットボット、ChatGPTからのラベルであることが判明した。Cabanacはすぐに、科学者が出版された研究を議論するプラットフォームであるPubPeerで彼の発見を共有した。

その後の調査により、論文の著者が原稿の起草を支援するためにChatGPTを使用したことが明らかになった。驚くべきことに、この異常は2か月のピアレビュープロセスと組版段階で見逃されていた。その結果、出版社であるIOP Publishingは、提出時にツールの使用を申告しなかった著者により、論文の取り消しを決定した。

より広い問題

この事例は孤立した事件ではない。4月以来、Guillaume Cabanacは、PubPeerに投稿された、ChatGPT特有のフレーズ「Regenerate response」や「As an AI language model, I…（AI言語モデルとして、私は…）」を含む12編以上のジャーナル論文を特定している。ElsevierやSpringer Natureなど、多くの出版社は、著者がその使用を申告する限り、ChatGPTや類似の言語モデルの使用を許可している。

しかし、これらの検出事例は氷山の一角にすぎません。研究者たちは、適切な開示なしにChatGPTを利用した多数の査読済み論文が存在すると疑っています。フレーズ自体も進化しており、ChatGPTはアップデートで「再生成」ボタンを「Regenerate response」から「Regenerate」に変更しました。

ジャーナル全体での開示されていない利用

Guillaume Cabanacは、Elsevierのジャーナルに掲載された論文で典型的なChatGPTのフレーズを発見しました。あるケースでは、8月3日に『Resources Policy』に掲載された論文が、発展途上国における化石燃料効率への電子商取引の影響を探りました。Cabanacは数式に矛盾があることに気づきましたが、決定打となったのは表の上に書かれた一文でした。「AI言語モデルであるため、特定の表を生成したりテストを実行したりすることはできませんので、ご了承ください…」

Elsevierはこの問題を認め、現在調査中です。中国瀋陽の遼寧大学および北京の中国国際貿易経済協力研究院に所属する論文の著者たちは、コメントの要請に対して回答していません。

欺瞞の検出における課題

開示なしにコンピュータソフトウェアによって部分的または完全に書かれた論文は新しいものではなく、通常は言語パターンや誤訳されたフレーズなど、区別可能な痕跡を示します。しかし、ChatGPTの定型フレーズを削除すると、AI生成テキストを見分けることはほぼ不可能になります。これは、詐欺師と研究の健全性を維持しようとする者たちの間の「軍拡競争」としばしば表現される、科学コミュニティにとって継続的な課題を生み出しています。

査読への影響

ChatGPTの開示されていない利用は、査読済み会議論文やプレプリントでも表面化しています。PubPeerで指摘された際、著者たちは時に開示なしにChatGPTを使用したことを認めています。この暴露は、過重労働の査読者が、赤旗（問題点）について原稿を徹底的に精査するのに十分な時間を持っていない可能性があるという、重大な問題を浮き彫りにしています。

偽造原稿の台頭

ChatGPTのような生成AIツールの普及は、出版出力を強化しようとする研究者に偽造原稿を生成・販売するペーパーミル（論文工場）企業の台頭という懸念を呼び起こしています。この現象は、すでに困難な状況にある学術出版における既存の問題を悪化させる恐れがあります。

欺瞞の見分け方

ChatGPTのような言語モデルは、偽の参考文献を生成することが知られており、これは原稿での使用を検出しようとする査読者にとって潜在的なシグナルとなります。偽の参考文献がいくつかのケースで特定され、査読者に警告を発する赤旗として機能しています。参考文献の検証における警戒心は、ますます重要になっています。

学術出版物におけるChatGPTの開示されていない利用の発見は、研究における透明性と健全性の重要性を浮き彫りにしています。進化し続けるAIツールがもたらす課題に科学コミュニティが取り組む中で、学術出版の信頼性を維持するためには、より厳格なガイドラインと査読における heightened vigilance（ heightened 警戒）が不可欠であることは明らかです。これらの課題に対処することは、知識の探求が倫理的な原則と厳格な研究実践に基づいて行われることを確保するために最も重要です。