-
AI生成の論文やレビューが主要な学会を洪水のように埋め尽くし、科学研究への信頼を損なっています。
-
研究により、論文やレビューの二桁の割合がAIツールに大きく依存していることが判明しました。
-
NeurIPSやICLRなどの会議では、開示ルールを強化し、低品質なAI利用に対してペナルティを科しています。
AI研究の現場で働く科学者たちは、無視できなくなった信頼性の問題に直面している。
AI研究に焦点を当てた主要な会議は、レビューシステムが質の低い提出物で埋め尽くされた後、対応を迫られた。
主催者は、人間の労力をほとんどかけずに作成された論文やピアレビューが急増しているのを目の当たりにしました。懸念されるのはスタイルではなく、正確性です。精度が重要視されてきた領域に誤りが混入しています。
低品質な論文がレビュアーを圧倒する中、学会が取り締まりを強化
研究者たちは早期に、自動化された執筆ツールの制御不能な使用が分野に損害をもたらす可能性を警告しました。カリフォルニア大学バークレー校のAI研究者であるInioluwa Deborah Raji氏は、この状況が急速に混沌としたものになったと述べています。
「他の分野においてAIが大きな役割を果たすことへの熱狂がある一方で、現実には私たちの分野がAIの広範な使用によって混沌とした経験をしてきたという事実は、少し皮肉ですね」と彼女は語りました。
硬質なデータは、この問題がいかに広範になったかを示しています。8月に発表されたスタンフォード大学の研究では、コンピュータサイエンスの論文の最大22%に大規模言語モデルの使用の兆候が見られたことが判明しました。
テキスト分析のスタートアップであるPangramは、2025年の国際学習表現会議（ICLR）での提出物とピアレビューをレビューした。レビューの21％が完全にAIによって生成されたと推定し、半数以上が編集などのタスクにAIを使用していると見積もった。Pangramはまた、提出された論文の9％で、コンテンツの半数以上がこのような方法で生成されていることを発見した。
この問題は11月に転換点に達しました。ICLRのレビュアーは、レビュアーのスコアに基づいて上位17%にランク付けされていたにもかかわらず、AI生成が疑われる論文を指摘しました。1月には、検出企業のGPTZeroが、分野における最先端研究の主要な場と見なされているNeurIPSで発表された50本の論文全体で100件以上の自動化されたエラーを検出したと報告しました。
懸念が高まる中、ICLRは会議前に使用規則を更新した。言語モデルの広範な使用を開示しない論文は、拒否の対象となる。自動化によって作成された低品質の評価を提出したレビューアーは、自身の論文が拒否されるなどのペナルティを受けるリスクがある。
カリフォルニア大学バークレー校のコンピュータサイエンス教授であるHany Farid氏は、「もし単に間違っている低品質な論文を出版しているのであれば、なぜ社会が私たち科学者を信頼する必要があるのでしょうか？」と問いました。
論文の数が急増する中、検出技術は追いついていない
報告書によると、NeurIPSには2025年に21,575本の論文が提出され、2024年の17,491本、2020年の9,467本から増加しました。ある著者は1年間で100本以上の論文を提出し、一人の研究者にとって典型的な範囲を大幅に超えていました。
オレゴン州立大学の名誉教授であり、arXivのコンピュータサイエンスセクションの議長であるThomas G. Dietterich氏は、オープンリポジトリへのアップロードも急増したと述べています。
それでも、研究者たちは原因が単純ではないと指摘しています。増加の要因は、分野に参入する人が増えたことによるものだと主張する人もいます。一方で、AIツールの過度な使用が主要な役割を果たしていると言う人もいます。自動化されたテキストを識別するための共有基準がないため、検出は困難です。Dietterich氏は、一般的な警告サインとして、捏造された参考文献や誤った数値を挙げています。これを行った著者は、arXivから一時的に追放される可能性があります。
商業的な圧力も背景にあります。注目を集めるデモ、急騰する給与、激しい競争は、分野の一部に数量重視を強いています。Raji氏は、ハイプの瞬間は、迅速な結果を求める外部の人々を引きつけると述べています。
同時に、研究者たちは、いくつかの使用は正当であると指摘しています。Dietterich氏は、中国からの論文の執筆品質が向上していることに言及し、これは言語ツールが英語での書き換えをより明確にするためだと推測しています。
この問題は現在、出版の枠を超えている。Google、Anthropic、OpenAIなどの企業は、生命科学などの分野での発見を加速できる研究パートナーとして自社のモデルを宣伝している。これらのシステムは学術テキストで訓練されている。
Farid氏は、トレーニングデータに合成素材が多すぎると、モデルのパフォーマンスが低下する可能性があると警告しています。過去の研究では、大規模言語モデルが、選別されていない自動化データを供給されると意味のないものになることが示されています。
Farid氏は、研究をスクレイピングする企業には、どの論文が人間によって書かれたものかを把握する強いインセンティブがあると述べています。OpenAIの科学責任者であるKevin Weil氏は、ツールには依然として人間のチェックが必要だと述べています。「それは大きな加速剤になり得ます。しかし、確認する必要があります。それは厳密さからの免除にはなりません。」
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？ 彼らに加わりましょう。
Jai Hamid
ジャイ・ハミドは、過去6年間、暗号通貨、株式市場、テクノロジー、世界経済、そして市場に影響を与える地政学的イベントを報道してきました。彼女は、AMB Crypto、Coin Edition、CryptoTaleなどのブロックチェーン専門出版物で、市場分析、大手企業、規制、マクロ経済動向に関する記事を担当してきました。ロンドン・スクール・オブ・ジャーナリズムを卒業し、アフリカ有数のテレビネットワークで3回にわたり暗号通貨市場の洞察を提供しています。
