大規模言語モデルのコードをオープンソース化することは、イノベーションを促進するための良い方法でしょうか？

TL;DR 要約

• AIの父ゲフリー・ヒントンは、オープンソースのAIモデルコードについて懸念を表明し、リスクの増大と悪用を警告しています。
• ヒントンは、AIの責任ある使用を確保するために、大手企業による管理された開発を提案しています。
• オープンソースLLMの支持者たちは、制限が創造性とイノベーションを制限すると主張しています。

人工知能（AI）の分野で著名な人物であり、「AIの父」として知られるゲフリー・ヒントンは、特に大規模言語モデル（LLM）の背後にあるコードをオープンソース化することに関連する潜在的なリスクについて懸念を表明しています。ニューラルネットワークへの画期的な貢献で知られるヒントンは、そのようなコードをオンラインで自由に利用可能にすることが有害な影響をもたらし、AIに関連する危険性を増大させると信じています。

ヒントンの立場は、AI、特に大規模言語モデル（LLM）の背後にある技術が、間違った手に渡った場合、悪用や搾取の可能性があるという彼の信念に由来しています。OpenAIのGPT-3などの大規模言語モデルは、人間のようなテキストを生成するように設計されており、膨大な量のデータから学習する莫大な能力を持っています。これらのモデルは、言語翻訳、コンテンツ生成、さらにはコードの自動補完など、さまざまなアプリケーションで印象的な能力を示しています。

LLMの暗黒面

ジェフリー・ヒントンは最近、大規模言語モデル（LLM）を取り巻くオープンソース運動とその潜在的な課題について懸念を表明しました。AIの開発に関する意見を自由に表明するためにGoogleを退任したばかりのヒントンは、LLMをOpenAIのような企業の研究所に閉じ込めることが有益であると考えています。彼は、異なる国からの数社の主要企業が主導権を握る統制された開発アプローチを採用することで、技術の同時開発と、その責任ある使用を確保するための方法の確立が可能になると示唆しています。 

ヒントンは、オープンソースのAIは、悪意のある個人がその技術を有害で予測不能な方法で使用することを可能にするリスクを増大させると強調しました。

ヒントンはまた、超知能AIが人間の知能を超える時点が遠くないと信じており、GPT-4などのモデルに知性の兆候が見られると述べています。彼は、それが50〜100年後になると以前見積もっていたものを修正し、今では今後5〜20年のうちに起こる可能性が高いと考えています。

オープンソースLLMがビジネスの成功を後押しする方法

オープンソースの大規模言語モデル（LLM）はオンラインでますます豊富になり、強力なAI機能へのアクセスを提供しています。この傾向に伴い、ソフトウェアベンダーは、独自データでトレーニングできるカスタマイズ可能でインストール可能なLLMに対する企業の需要の高まりを利用しています。この分野での注目すべきリリースの一つは、DatabricksのDolly 2.0で、商業利用のために明示的に設計された最初のオープンソースで指示に従うLLMとして称賛されています。ChatGPTと同様の機能を持つDolly 2.0は、組織が独自のインフラ上でモデルを実行することを可能にし、より多くの制御と柔軟性を提供します。

AIの危険を軽減するためのDeepMindの早期警告イニシアチブ

ヒントンの元雇用主であるGoogle傘下のAIラボ、DeepMindは、AIに関連する潜在的なリスクを特定するために設計された早期警告システムの開発を発表しました。このシステムは、ヒントンが提起した懸念に対処し、AI技術から生じる潜在的な危険を検出し軽減する能力を強化することを目指しています。このイニシアチブは、業界内でのリスクをプロアクティブに管理し、AIの責任ある開発と展開を確保するための継続的な取り組みを示しています。

オープンソースLLMの支持者の立場

オープンソースLLMの支持者は、それらがChatGPTのようなAIシステムへのアクセスを民主化する可能性を秘めており、実験への参入障壁を減らすことでイノベーションを促進すると主張しています。彼らは、これらの技術を公開することで、より広いコミュニティの個人が分野の進歩に貢献できると信じています。AIで探求し革新することに熱心な個人が多数おり、オープンソースモデルの支持者は、これらの個人をエンパワーし、彼らの集団的な潜在能力を活用することが重要だと考えています。