- 情報科学研究者であるダニエル・S・グリフィンの目的は、AIチャットボットが誤情報を拡散する事例を示すことでした。
- このフィードバックループにより、AIモデルの品質と信頼性が著しく低下する可能性があります。
- AIモデルの開発と利用には注意が必要です。
生成AIモデルに駆動された人工知能（AI）チャットボットは、研究ブログ投稿によって無意識のうちに道に迷わされた。この出来事は、AI強化型検索エンジンがより一般的になるにつれて、強化された保護措置の必要性を浮き彫りにしている。
AIチャットボットにおける幻覚
情報科学研究者のダニエル・S・グリフィンは、彼のブログに誤情報の例を投稿することで、AIチャットボットの領域で独特の難問を無意識のうちに引き起こした。彼の目的は、AIチャットボットが誤情報を拡散する例を示すことであった。グリフィンは、影響力のあるコンピュータ科学者であるクロード・E・シャノンに関連する2つの例を示し、チャットボットの情報が真実ではないことを明確に示す免責事項を含めた。
しかし、この免責事項は、誤情報をインデックス化する機械スクレイパーの防止には不十分であった。グリフィンは、マイクロソフトのBingやGoogleのBardを含む複数のチャットボットが、幻覚されたデータを事実であるかのように参照し、検索結果の上位にランク付けしていることを発見して驚いた。ユーザーがシャノンに関する特定の詳細についてチャットボットに問い合わせると、ボットはグリフィンの免責事項を使用して、一貫性のあるが誤った物語を構築した。その結果、シャノンが決して執筆しなかった論文が彼に帰属された。
さらに、この状況の懸念すべき側面は、BingとBardの検索結果に、そのソースが言語モデルAI（LLM）由来であることを示す任何の表示がなかったことである。この現象は、個人がソースを文脈から切り離して要約または引用し、誤った研究につながるケースに非常に似ている。しかし、グリフィンの出来事は、生成AIモデルがはるかに大きな規模でこのミスを自動化する可能性があることを示した。
AI誤情報の結果
この出来事の影響は、単なる研究の不正確さを超えて及ぶ。マイクロソフトはその後、Bingでのエラーを修正し、この問題はオンラインで人間の執筆コンテンツが限られている分野で発生しやすいと示唆した。この脆弱性は、悪意のある行為者が検索結果を操作することで誤情報を拡散するためにLLMを意図的に武器化する理論的な青写真という disturbing な可能性への扉を開く。この戦術は、ハッカーがトップの検索結果ランクを獲得することでマルウェアを配布するために不正なウェブサイトを使用した過去の事例に似ている。
この出来事は、インターネットがLLM生成コンテンツでますます飽和するにつれて、それが将来のLLMの訓練に使用されるという6月の警告を反映している。このフィードバックループは、「モデル崩壊」と呼ばれる現象により、AI モデルの品質と信頼性の著しい低下をもたらす可能性がある。AIモデルの開発と利用における警戒の必要性は、かつてないほど明白である。
ダニエル・S・グリフィンの関与した出来事は、AIと連携する企業が、人間の作成したコンテンツでモデルを継続的に訓練することを優先する必要性を強調している。あまり知られていない情報やマイノリティグループによって書かれた資料を保存することは、AIシステムによって永続化する誤情報の蔓延を軽減する上で重要な役割を果たすことができる。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ブライアン・クーム
ブライアン・クミは2017年から業界に従事し、ブロックチェーンおよび暗号通貨の報道において7年以上の経験を持っています。BlockToday.comを含む主要な出版物に寄稿しており、BitDegree.orgでEthereum 101コースを開発したのち、Cryptopolitanのフルタイムライターとして参加しました。ブライアンはエバーグリーンガイド（EG）、ディープダイブ、インタビュー、価格分析をカバーしており、DeFi、ブロックチェーンのイノベーション、新興の暗号通貨プロジェクトへの注目は読者を魅了しています。
