OpenAIの共同創設者は、超知能AIは「予測不可能」になると警告

OpenAIの共同創設者であるイリヤ・スツケヴァー氏は、先日開催された年次AIカンファレンスにおいて、人工知能の未来について洞察を披露しました。スツケヴァー氏は、AIが「予測不可能」になるという変革の可能性について語り、その課題と影響についても強調しました。.

金曜日のNeurIPSカンファレンスで講演したスツケバー氏は、「超知能AI」の概念について説明し、これを幅広いタスクで人間の能力を超えるシステムと defiした。. 

OpenAIの共同創設者であるイリヤ・スツケバー氏は、超知能AIは「予測不可能」になると考えている 。https://t.co/vLHmqwQOJQ

— TechCrunch (@TechCrunch) 2024年12月14日

彼は、そのようなシステムは今日のAIとは質的に異なり、ある意味では認識できないほどになるだろうと予測した。スツケヴァー氏によると、これらの高度なシステムは自己認識、ある程度の推論能力、そして限られたデータから複雑なシナリオを理解する能力を備えるという。. 

「超知能システムは、真の意味で主体性を持つようになるだろう」と彼は述べ、現在のAIを「ごくわずかに主体性を持つ」と表現し、それらと対比させた。

Sutskever氏：現在のAIモデルには限界がある

カンファレンスで「Test of Time」賞を受賞したサツケヴァー氏は、OpenAIのChatGPTで使用されているような事前学習モデルの限界を認めた。現行のシステムは驚くべき能力を示しているものの、インターネットデータの有限性がボトルネックになりつつあると警告した。. 

事前トレーニングの廃止などについて語る@ilyasutのトーク全文pic.twitter.com/PigZVvcEGB

— ディエゴ | AI 🚀 – e/acc (@diegocabezas01) 2024 年 12 月 14 日

スツケバー氏は、AIシステムが独自のデータを生成したり、応答を改良して精度を高めたりするなど、代替的なアプローチを提案した。これらのイノベーションは、既存の限界を克服するのに役立つ可能性があると彼は示唆した。.

OpenAIの共同創設者は、超知能AIの倫理的な意味合い、特にそのようなシステムが権利を要求する可能性についても言及した。「AIが存在し、彼らが望むのが私たちとの共存と権利を持つことだけなら、それは悪い結果ではない」と彼は述べた。 

しかし、彼は、エージェント型および自己認識型の AI には予測不可能な性質があり、開発者と規制当局に機会と課題の両方をもたらすと強調しました。.

OpenAI CEOアルトマン氏は、破壊的変化とAGIの到来を予測している。

今月初め、OpenAIのCEOサム・アルトマン氏も、超知能AIの性能の限界について、サツケヴァー氏と同様の見解を示しました。ニューヨークで開催されたニューヨーク・タイムズ主催のDealBook Summitで講演したアルトマン氏は、汎用人工知能（AGI）に関する自身のビジョンを概説しました。彼は、人間のような推論能力で複雑なタスクを実行できるAGI-AIシステムが、早ければ2025年には現実のものになる可能性があると予測しました。. 

「2025年には、私たちが目にするシステムを見て、『わあ、これは私の予想を覆すものだ』と言う人がいるだろうと私は考えています」とアルトマン氏は述べた。

アルトマン氏は 、AIがもたらす可能性のある影響を、世界中の産業と経済に革命をもたらしたトランジスタの発明に なぞらえ 、AIが「驚くほど高性能になる」未来像を描いた。

「AIモデルは広く普及し、さまざまな業界で多様な用途に利用されるようになるだろう。AIそのもの、つまり推論エンジンはコモディティ化されるだろう」とアルトマン氏は述べ、AIが日常生活に統合されることは、過去の技術革新と同様に大きな変革をもたらすだろうと示唆した。

アルトマン氏は講演の中で、ChatGPTの普及ぶりを強調し、このAIツールの週当たりのユーザー数が3億人を超えていることを明らかにした。安全性に関する議論が続いていることを認めつつも、反復的な開発と展開のアプローチが不可欠であると主張した。. 

「ます defiChatGPTは十分に安全ではないと考えている人は確かに」と彼は述べたが、OpenAIは、リスクが低い段階での早期導入が段階的な改善にとって不可欠だと考えていると指摘した。

アルトマン氏の安全性への重点は、責任あるAI開発に対する業界の懸念を反映している。彼は、ChatGPTは「現在、社会の大部分から許容できるほど安全で、許容できるほど堅牢であると一般的に考えられている」ものの、継続的な改良と監視が依然として優先事項であると認めた。.

リーダーシップとOpenAIの進化についての考察

アルトマン氏のリーダーシップの軌跡は、OpenAIの軌跡を形作る上で極めて重要な役割を果たしてきました。2015年に非営利の研究機関としてOpenAIを共同設立したアルトマン氏は、人類の利益のためにAI技術の発展を目指しました。2019年にOpenAIにフルタイムで参加する前は、2014年から2019年まで、有力なスタートアップアクセラレーターであるYコンビネーターのdent 務めていました。.

OpenAIは、大規模AIプロジェクトに必要な資金を確保するため、非営利組織から上限付き利益モデルへと移行しました。アルトマン氏のリーダーシップの下、同社はChatGPTとDALL-Eを立ち上げ、AIのあり方を大きく変えました。. 

しかし、その道のりは決して平坦ではなかった。2023年11月、アルトマン氏は取締役会メンバーとのコミュニケーションに関する懸念から、OpenAIの取締役会によって一時的に 解任された 。公に展開されたこの騒動は、取締役会がCEOと「良好な関係」にあると主張したことで、1週間も経たないうちにアルトマン氏の復職という形で終結した。