OpenAI共同創設者、スーパーインテリジェントAIは「予測不可能」になると警告

OpenAIの共同創設者であるイリヤ・スutskever氏は、最近の年次AI会議において、人工知能の未来に関する洞察を提供しました。彼は、AIが「予測不可能」になる変革的な可能性について語り、その課題と含意を強調しました。

金曜日にNeurIPS会議で講演したスutskever氏は、「スーパーインテリジェントAI」の概念を探求しました。これは、幅広いタスクにおいて人間の能力を超えるシステムとして定義されます。 

OpenAI共同創設者イリヤ・スutskever氏、スーパーインテリジェントAIは「予測不可能」になると信じる https://t.co/vLHmqwQOJQ

— TechCrunch (@TechCrunch) 12月 14日、 2024

彼は、そのようなシステムは今日のAIとは質的に異なり、ある意味では認識不可能になると予測しました。スutskever氏によると、これらの高度なシステムは、自己認識、推論のレベル、そして限られたデータから複雑なシナリオを理解する能力を備えているでしょう。 

“[スーパーインテリジェントな]システムは、実際に本格的にエージェント型になるでしょう。」と彼は述べ、現在のAIを「非常にわずかにエージェント型」として対比させました。

スutskever氏：現在のAIモデルは制限されている

会議で「タイム・オブ・タイム」賞を受賞したスutskever氏は、OpenAIのChatGPTで使用されるような前訓練モデルの限界を認めました。現在のシステムは顕著な能力を示していますが、彼はインターネットデータの有限性がボトルネックになりつつあると警告しました。 

@ilyasutの完全なトーク！前訓練は死んだ、などについて pic.twitter.com/PigZVvcEGB

— Diego | AI 🚀 – e/acc (@diegocabezas01) 2024年12月14日

スutskever氏は、AIシステムが独自のデータを生成したり、精度を高めるために回答を洗練させたりするなどの代替アプローチを提案しました。これらの革新は、既存の限界を克服するのに役立つと彼は示唆しました。

OpenAIの共同創設者はまた、スーパーインテリジェントAIの倫理的含意、特にそのようなシステムが権利を要求する可能性に触れました。「AIが存在し、すべてが私たちと共存し、権利を持つことを望むだけなら、それは悪い結末ではありません。」と彼は remark した。 

しかし、彼はエージェント型かつ自己認識を持つAIの本質的な予測不可能性を強調し、開発者や規制当局にとって機会と課題の両方をもたらすと指摘しました。

OpenAI CEO、アルトマン氏が混乱とAGIの到来を予測

今月初め、OpenAIのCEOサム・アルトマン氏は、スutskever氏と同様に、スーパーインテリジェントAIのパフォーマンスの天井に関する類似の見解を共有しました。ニューヨーク市のニューヨークタイムズ・デールブックサミットで講演したアルトマン氏は、人工汎用知能（AGI）に関する彼のビジョンを明らかにしました。彼は、人間の推論と同等の複雑なタスクを実行できるAGI-AIシステムが、2025年という早い時期に現実になる可能性があると予測しました。 

“2025年には、私たちが…を見て、「 wow、これは私の期待を変えた」と人々が言うようなシステムが実現する可能性があります。」とアルトマン氏は述べました。

アルトマン氏は 比較 トランジスタの発明が世界中の産業と経済に革命をもたらしたように、AIがもたらす潜在的な影響に言及しました。彼は、これが「驚くほど有能力」になる未来を描写しました。 

“AIモデルが広く利用可能になり、さまざまな用途のために業界全体で使用されます。「AI自体、推論エンジン、はコモディティ化されるでしょう」とアルトマン氏は述べ、その日常生活への統合が過去の技術的ブレークスルーと同様に革新的になると示唆しました。

彼の登場中、アルトマン氏はChatGPTの広範な採用を強調し、このAIツールが現在週3億人以上のユーザーを持っていると明らかにしました。彼は安全性に関する継続的な議論を認めましたが、反復的な開発と展開のアプローチが重要であると維持しました。 

“ChatGPTは十分に安全ではないと考える人々も確かにいます。」と彼は述べましたが、OpenAIは、リスクが低い時期の早期採用が、段階的な改善にとって重要であると信じていると指摘しました。

アルトマン氏の安全性への強調は、責任あるAI開発に関する業界の懸念を反映しています。彼は、ChatGPTが「現在、社会の大多数によって許容可能な安全性と堅牢性を持つと一般的に見なされている」ことを認めつつも、継続的な洗練と監視が優先事項であると認めました。

リーダーシップとOpenAIの進化に関する考察

アルトマンのリーダーシップの歩みは、OpenAIの軌道形成において決定的な役割を果たしてきました。2015年に非営利の研究ラボとして組織を共同設立した際、彼は人類の利益のためにAI技術を進展させることを目指しました。2019年にOpenAIにフルタイムで参加する以前、アルトマンは2014年から2019年まで、主要なスタートアップアクセラレータであるY Combinatorの社長を務めていました。

OpenAIは、大規模なAIプロジェクトに必要な資金を確保するため、非営利の起源から上限付き利益モデルへ移行しました。アルトマンのリーダーシップの下、同社はChatGPTとDALL-Eを立ち上げ、これらはAIの風景を再構築しました。 

しかし、その道のりは課題に満ちたものではありませんでした。2023年11月、アルトマンは一時的に 解任 されました。これは、彼と理事会メンバーとのコミュニケーションに関する懸念から、OpenAIの理事会によって行われたものです。公に展開されたこの紛争は、理事会がCEOと「良好な関係」にあると主張したことで、わずか1週間以内にアルトマンの復職という形で決着しました。