ChatGPTの幻覚的な参照が学問的誠実性の審査を促す

ニューブランズウィック大学の実験心理学の博士課程学生であるジョーダン・マクドナルドによる最近のブログ投稿では、ChatGPTが権威ある参照として与えた引用の90%以上を作成したことが示されました。 

カナダ心理学会の「マインドパッド」のニュースによると、AIは偽造された書誌情報や参照詳細を作成できるようになり、時にはそれらは実際の情報と同様に妥当性を持つことがあります。AIは、著者、タイトル、名前、および適切にフォーマットされたデジタルオブジェクト識別子（DOI）など、人が脳内に記憶し保存する情報を組み込むためです。 

学術研究におけるAIの二面的な役割のナビゲーション

学生は、元のテキストと、文法的には正しいが事実に基づかないAI生成の参照との対比を形成するのが難しい場合があり、その結果、学術環境におけるアイデアの独自性を疑うことになりかねません。

この研究では、心理学の以下の6つのサブフィールドにおける引用の真正性を検証しました。心理学では、宗教、動物、社会、臨床、人格、神経心理学の5つの領域を研究しています。 

最終的に、各サブフィールドについてChatGPTが100%正確な数値として300件を生成しましたが、実際に存在したのは32.3件だけで、これは指定された領域における明確な傾向を示しています。

学術研究における情熱としてのAI：問題点と欠点

ChatGPTは、偽造された発明と正当な発明の両方を提供し得ます。マクドナルドの研究もこれを裏付けています。しかし、その特定のプロンプトで行われた研究は、私たちが常にChatGPTの引用として目にするものとは一致しません。 

つまり、複雑なモデルのエラーによる資材の節約は、住民がこの簡略化を信頼することにつながります。さらに、これは学校で必要な生活スキルとその源泉に関する議論を喚起します。 

教育研究を行う手段としてのAIの役割が正当かどうかは、AIが専門家のような振る舞いをシミュレートする際に達成できる見分けにくさの度合いにかかっています。

例えば、主要な学術課題においてAIツールを使用することで証拠が発見される可能性があります。この情報は、プレゼンテーションにおいて決定的な役割を果たすこともあれば、少し散漫に見えることもあります。したがって、AIスマートツールと教育アプローチには真剣な検討が必要です。

学術的誠実性におけるAIの恩恵とリスクのバランス

しかし、この研究は学校におけるAIに関連する困難を浮き彫りにするだけでなく、特定の状況下で使用される場合、教育および研究活動における貴重な手段としてこれらの技術に関する議論を促進します。 

教育者や研究者は、ChatGPTなどのAI技術の限界と能力を認識するだけでなく、より深く理解し、学術基準に影響を与えることなくこれらの技術を最大限に活用することが奨励されています。

マクドナルドによれば、これらのモデルが莫大な利点を持っているという事実は、それらを完全に無視する理由にはなりません。特に、関心のある学術トピックについて学ぶ際に、それらの結論のみを頼りにするよう誤導される場合にはなおさらです。結果はまた、AI生成の矛盾が、ルールブックに従っていない場合でも、学生作業におけるAIの関与を示す指標となり得る可能性を示唆しています。

AIのさらなる発展には、その応用分野と潜在的な限界を明らかにする目的での追加研究が必要です。Scavengeは、AIベースの盗用やその他の不正行為の検出に関する新しい戦術を研究する予定です。 

一方、ChatGPTのようなAIは学術研究において様々な利点をもたらす可能性がありますが、他方では、分析家や研究者を誤導し得る文脈外の情報（または捏造された情報）を提供するという欠点があります。