ChatGPT の理解と言語 AI の神話と現実の解明

今日の多くのオンラインインタラクションの中心には、OpenAI によって開発された言語モデルである ChatGPT があり、インターネットから収集された膨大なトレーニングデータに基づいてテキストのシーケンスを予測するよう努めています。しかし、一部が信じていることに反して、ChatGPT は人間のように言語を「理解」しているわけではありません。それは統計的に動作し、膨大なデータセットから単語のパターンを分析します。例えば、「クマは秘密裏にロボットである」というフレーズがトレーニングで頻繁に繰り返される場合、モデルはそれをより真実可能性が高いものとして受け入れるかもしれません。

このようなアプローチは、誤情報と多様な意見が蔓延する時代に、ChatGPT は正確な情報と嘘をどのように見分けるのかという疑問を投げかけます。

フィードバックの重要な役割

ChatGPT は、回答を洗練させるためにフィードバックメカニズムに依存しています。ユーザー、開発者、契約チームはモデルの出力を評価し、それが正確または適切と見なされるものに合わせて形成します。これらの評価は、モデルを正解へと導くだけでなく、有害なコンテンツを丸暗記するのを防ぐ役割も果たします。

最近、タイム誌によるある調査報道が、これらの人間評価者の労働環境にスポットライトを当て、AI 開発の暗い側面を明らかにしました。ケニアの労働者は、1時間あたりわずか2ドルで、潜在的に問題のあるコンテンツを精査してラベル付けしており、しばしば精神的に苦痛を伴うやばいコンテンツにさらされていることが報告されています。

これは、ChatGPT や同様のモデルの重要な側面を示しています。それらは、「良い」または「悪い」回答が何を指すか、そして重要なのは、どのコンテンツが有毒であるかを判断するために、人間の判断に大きく依存しています。

ChatGPT の限界

ChatGPT の能力は驚異的ですが、欠点がないわけではありません。顕著な傾向の一つは、時折「幻覚」を起こすことです。つまり、不正確な情報を自信を持って提供することです。これは、モデルが厳密にトレーニングされていないトピックについて質問された際に特に顕著です。

例えば、ChatGPT は J.R.R. トールキンの『指輪物語』のような主流の作品の合理的な要約を提供できますが、ギルバート・アンド・サリヴァンの『彭赞斯の海賊』やアーシュラ・K・ル=グィンの『闇の左手』のようなややマイナーなタイトルに関する記憶は、非現実的なものになりかねません。これは、モデルが生データ、フィードバック、そして洗練を必要とすることを浮き彫りにしています。

これらのモデルは真の理解力を欠いています。ニュースレポートの正確性を判断したり、複雑な議論を評価したり、百科事典のような確立されたソースとの整合性を確保したりすることはできません。代わりに、それらはこれらの評価のために人間に依存し、人間の表現を要約して繰り返すとともに、その出力についてさらに人間のフィードバックを求めます。

AI システムへの依存

技術が進歩し、ChatGPT などの AI モデルがより複雑になるにつれて、それらが人間の入力に本質的に依存していることを認識することが重要です。これらのシステムを支えているのは、初期のコーディング、継続的なフィードバック、コンテンツ評価を問わず、広大な人間のネットワークです。

世論が事柄について変化したり、新しい科学的発見がなされたりした場合、これらのモデルは適応するために広範な再トレーニングを必要とします。それらは本質的に、集団的な人間の知識と労働の反映です。

一部の人が認識しているような自律的な巨人とは異なり、ChatGPT などの大規模言語モデルは人間の相互作用と密接に結びついています。それらが提供する正確な回答一つ一つは、トレーニングデータの作成者からモデルの回答を洗練させる人々まで、無数の人々によって築かれた基盤の上に構築されています。

ユーザーが ChatGPT やその仲間たちと関わる際、すべてのインタラクションの背後にある数多くの人間の努力を認識することが重要です。それは、AI の時代でさえ、人間の入力が依然としてかけがえのない価値を持つことを強調しています。