6つのトップAI会議で業績を上げた2,700人の人工知能（AI）研究者を対象とした最近の調査では、回答者のほぼ58%が、AIが人類の絶滅または他の壊滅的な結果を引き起こす確率が5%あると信じていることが明らかになりました。

調査はまた、AI技術のマイルストーンとその潜在的な社会的影響のタイムラインも探りました。研究者間の不確実性と不一致にもかかわらず、これらの発見は、スーパーヒューマンAIの開発に関連する潜在的なリスクに関するAIコミュニティ内の懸念に光を当てています。

研究者はAIによる絶滅リスクについて慎重な見解を示しています

カリフォルニアのMachine Intelligence Research Instituteの研究者であり、調査の著者であるKatja Graceは、高度なAIがもたらす非微小なリスクへの信念の重要性を強調しました。Graceは、「高度なAIが人類を破壊するという考えを、ほとんどのAI研究者が強く非現実的ではないと見なしていることは、重要なシグナルです」と述べています。しかし、オハイオ州のCase Western Reserve Universityの学者であるÉmile Torresによると、直ちに警戒する必要はありません。

Torresは、専門家調査がAIの発展を正確に予測する強い実績を持っていないことに注意し、専門家調査への過剰反応を戒めました。2012年の以前の研究では、AI専門家の予測は世論よりも信頼性が高いわけではないことが見つかりました。現在の調査の著者たちはまた、AI研究者がAIの将来の軌道を予測する専門知識を持っていない可能性があると指摘しています。

加速されたマイルストーンと早期の予測

Accelerated milestones and earlier predictions

2022年版の同調査と比較すると、最新の調査における多くのAI研究者は、AIが以前予測されていたよりも早く特定のマイルストーンに到達すると予想している。これらの予測は、2022年11月にChatGPTのような高度なAIチャットボットサービスがローンチされ、シリコンバレーで同様のAIモデルが急速に展開された時期と一致している。

研究者たちは、今後10年以内にAIシステムがさまざまなタスクを成功裏に遂行する可能性が50%以上あると予測した。これらのタスクには、テイラー・スウィフトのような人気アーティストの曲と見分けがつかない曲の作成や、ゼロから決済処理ウェブサイトのコーディングが含まれる。しかし、家庭での電気配線の物理的な設置や長年の数学的な謎の解決など、他の複雑なタスクにはより長い時間がかかると予想されている。

AIがあらゆるタスクにおいて人間の性能を超えうるという見通しには、2047年までに実現する可能性が50%と見積もられ、すべての人間の仕事が完全に自動化される可能性については、2116年までに50%の確率で実現すると予測された。これらの推定値は、前年の調査と比較してそれぞれ13年、48年の前倒しを示している。

予測不能なAIのブレークスルーと差し迫った懸念

AI開発をめぐる期待が高まる中、Émile Torresは技術的ブレークスルーの不確実性について慎重な見方を示した。Torresは、AIの分野が1970年代と80年代に「AIの冬」と呼ばれる資金調達や企業の関心が低下した時期を経験したことを指摘した。

さらに、AI研究者たちは、ディープフェイク、世論操作、人工兵器の開発、権威主義的な人口管理、経済格差の悪化など、AIの悪用に関する差し迫った懸念を浮き彫りにした。Torresはまた、気候変動や民主的ガバナンスといった重要課題における誤情報にAIが寄与する可能性のある危険性も強調した。

AI研究者を対象とした調査は、高度なAI開発に伴う潜在的なリスクについて、AIコミュニティ内で大きな懸念があることを示している。AIが人類の絶滅を引き起こす正確なリスクの割合は不確実であるものの、非微細なリスクが存在するという信念は、AI開発における継続的な倫理的・安全上の考慮の必要性を浮き彫りにしている。

AIのマイルストーンに関する予測が加速しているにもかかわらず、研究者たちは技術的進歩の不確実性を認識し、AIの悪用や社会的影響といった差し迫った懸念を強調している。AIが進化するにつれ、研究者、政策立案者、そして社会全体がこれらの課題に主体的かつ責任を持って取り組む必要がある。