- LLMは場合によっては誤情報を正確な情報として提示することがあり、これは事実が重要な科学などの分野においてリスクをもたらします。
- この欠陥は通常、モデルの学習に使用されるスクレイピングデータに起因します。
- オックスフォード大学の研究者らは、科学を守るためにLLMを「ゼロショット翻訳機」として使用するべきだと主張しています。
大規模言語モデル（LLM）は、人工知能分野における大きな飛躍です。しかし、LLMに関する主な懸念の一つは、誤った情報を事実として提示する能力にあり、これはいくつかのリスクをもたらします。
LLMと幻覚
LLMは時に「幻覚」を生じることがあります。これは現実に基づかない、誤りまたは誤解を招く可能性のある声明です。この欠点は通常、モデルの訓練に使用されるデータに起因します。
AIモデルは、正確な情報と不正確な情報の両方を含むインターネットから抽出された膨大な量のデータを用いて訓練されます。その結果、LLMは訓練されたデータと一致するテキストを生成するよう学習しますが、そのテキストが事実上正確でない場合でも同様です。
例えば、科学論文の要約を書くよう求められたLLMは、特定の単語やフレーズが特定の概念と関連付けられていることを学習しているため、その関連付けが正確でなくても、事実上誤った要約を生成する可能性があります。
このような欠陥があるため、LLMの使用、特に事実が重要である科学分野において懸念となります。
「LLMの使用方法は重要です。科学コミュニティでは、事実情報に対する信頼が不可欠であるため、LLMを責任を持って使用することが重要です。LLMが科学論文の生成と拡散に使用されると、重大な害が生じる可能性があります」と、オックスフォード・インターネット研究所のサンドラ・ワルター教授は述べています。
LLMを使用するための最善のアプローチ
オックスフォード大学のWachter教授、Brent Mittelstadt氏、Chris Russell氏が発表した研究論文では、科学と教育を守るために、AIモデルが責任を持ってかつ有益に貢献できる範囲について明確な期待値を設定する必要があると主張しています。
研究者らは、LLMは「ゼロショット翻訳機」として使用するべきであり、つまりユーザーは正確な情報のみをモデルに入力し、望ましいテキストへの書き換えを依頼すべきだと述べています。「真実が重要なタスクについては、検証済みで事実に基づいた情報を含む翻訳プロンプトを作成することをユーザーに推奨します」と論文には記載されています。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
イビアム・ワイヤス
イビーム・ワイヤスは2019年から暗号資産ニュースを担当しています。ナイジェリア国立公開大学でコンピュータサイエンスを専攻し、Coinfomania、Crypto News Australia、AltcoinBuzzなど、さまざまな暗号資産ニュースプラットフォームで執筆活動を行ってきました。コンピュータサイエンスのバックグラウンドを活かし、現在は暗号資産、ロボティクス、長寿に関するニュースに注力しています。
