ヴィタリック・ブテリン氏、AI雇用争いは「スーパーインテリジェンス」の定義にかかると指摘

イーサリアムの共同創設者であるヴィタリック・ブテリン氏は、高度なAIに関する公的な議論の多くが、両側が実際に共有していない仮定を持っていることに起因すると主張しています。 

すべてのAIアプリケーションに対するブテリン氏のキルスイッチ提案は、テクノロジーコミュニティがAIの進歩速度とその労働力への意味について新たな議論を展開する中で、批判を受けています。 

AI議論を駆動しているものは？ 

In a X上の投稿, イーサリアムの共同創設者であるヴィタリック・ブテリン氏は、「AI 2040」シナリオの支持者とその批判者の間の衝突は、AIの進歩がどの程度速く、どの程度重要であるかに起因すると述べています。 

AI 2040の枠組みは、強力な措置が講じられない限り、2040年までに何らかのスーパーインテリジェンスが現れることを前提としています。一方、批判者は、AI 2040の支持者が人間の調整能力を見下し、自由を脅かしていると信じていますが、スーパーインテリジェンス自体を権力集中のリスクとは見ていません。

ブテリン氏は、どちらのシナリオが現実に近いかはわからないと認めています。「もし私が（現在のスタイルの）AIが通常の技術であると確信していれば、私は批判者の陣営にいたでしょう。もし私がスーパーインテリジェンスがデフォルトで2030年に到来すると確信していれば、私はAI 2040の陣営に近かったでしょう」と彼は書き記しました。 

しかし、創設者は、リスクが重大になれば、AIの開発を遅らせたり一時停止したりすることに開明的です。

この議論には、AI研究者のヤン・ルカン、著者のダニエル・ジェフリーズ、政策アナリストのアダム・シーアーが引き込まれました。 

メタ（NASDAQ: META）の首席AI科学者であるヤン・ルカンは、AIの安全性は 本質的にエンジニアリングの問題であり 、ジェットエンジンの信頼性を高めたように、慎重な反復設計によって解決できると主張しています。 

ルカンは、「航空機を真に安全にするのに50年かかった」と指摘し、人間レベルの知能を備えたシステムをまだ作成していない段階で、AIへの恐怖は早すぎると述べています。彼は常に、大規模言語モデルは推論や因果理解を欠く限定的な「オートコンプリートマシン」であると主張してきました。 

@hhawkとして投稿したハリー・ホーク氏は、ヤン・ルカンに同調し、将来のAIシステムは航空機と同様に安全性のために設計されると信じています。また、AIやロボットがすべての仕事や雇用を奪うことはないとも述べています。

ブテリン氏は、この視点は「AI alone can perform any task」を実行できるほど強力なAI、彼がASIと呼ぶものの存在を否定していると反論しました。

強力なAIシステムはどのように制御できるのか？

ブテリン氏は、「プランA」を提案しました。これは、誰もが自分が何を作っているかをオープンにすることを強制する広範なルールと、危険な状況になった場合に大規模なAIのトレーニングを遅らせたり停止したりするための緊急停止スイッチを含むものです。

彼は、「どのAIの使用が許可され、どの使用が許可されないかを選別できる」と考える「無邪気で善意の知識人」が、このプランに反発すると付け加えました。 

ブテリンのスレッドの一部を促したロメオ・ディーンは、 このアプローチを 「かなり合理的」と呼びましたが、彼の世界観ではそのトリガーが到着するのが遅すぎると述べました。彼はまた、批評家がプランAに付与する「大きな悪影響」を理解していないと付け加えました。

ブテリン氏は、完璧な解決策はないと認めています。「ASIへの移行に対処する方法に関する計画で、無邪気でないものはゼロだと見ています」と彼は書き記しました。「おそらく人類は、無邪気と無邪気の二乗の間の選択に縛られているのかもしれません。」

「AI 2040: Plan A」レポートは、元OpenAI従業員のダニエル・ココタージロのAI Futures Projectからのものでした。 

レポートは、米国と 中国 超知能の到来を2040年まで遅らせるために協力すべきだと述べています。両国はすべての研究を公開的に共有する必要があります。また、必要に応じて互いの計算能力を破壊できるという、核戦争の論理に基づくシステムも含まれています。これを「相互保証計算破壊（Mutually Assured Compute Destruction）」と呼んでいます。

AI研究者のリチャード・ンゴ氏は、このレポートがAIの早期到来について過度に心配していると指摘しました。また、AIが各国国内で引き起こす可能性のある政治的な混乱について、十分に考慮されていないとも述べています。

オープンソースモデルが解決策となるのか？

議論の根底にあるのは、オープンソースモデルの地位です。レクンは7月9日、AIの最大のリスクは少数の支配的な企業における「権力の集中」であると投稿しました。さらに、「AIの主権に対する唯一の解決策は、オープンソースの基盤モデルである」とも記しました。この投稿は2,900件以上のいいねと430件以上のリポストを集めました。

著者ダニエル・ジェフリーズは、 同日の投稿で、オープンソースモデルが米国のテクノロジーを支えていると指摘し、それを制限しようとする「視野狭窄の安全至上主義者や強硬派」に警告を発しました。 

Rストリート研究所のシニアフェローであり、注目すべき下院AIタスクフォースへの提出資料の著者である政策アナリストのアダム・ティエリー氏は、 米国のAIガバナンスが 「重要な分岐点」にあると警告しています。 

彼は、現在議会がAIの審査に 混乱し、無秩序で、秘密主義的なプロセス を用いていることを指摘しました。彼は、この非公式なシステムが拡大し、進歩が特別な承認の壁に阻まれる場合、オープンソースAIを破壊すると警告しています。 

ティエリー氏は、厳格な規制の代わりに、「許可不要のイノベーション」アプローチを提案しています。これは、人々が自由にAIを構築し公開することを許可するものです。彼は、必要に応じて既存の法律を用いて害を罰すべきだと主張し、新しいAIのためのテストゾーンの設定、一部のモデルのオープン維持の義務付け、AI研究への資金増額などを支持しています。