AI研究者は、高度なAIによって人類が絶滅する可能性は5％であると示唆している

6 つの主要な AI カンファレンスで研究成果を発表した 2,700 人の人工知能 (AI) 研究者を対象に実施された最近の調査では、dentのほぼ 58% が、AI が人類の絶滅やその他の壊滅的な結果を引き起こす可能性は 5% あると考えていることが明らかになりました。.

この調査では、AI技術のマイルストーンとなるタイムラインと、それらが社会に及ぼす潜在的な影響についても調査しました。研究者間の不確実性や意見の相違はあるものの、これらの調査結果は、超人的なAI開発に伴う潜在的なリスクに関するAIコミュニティ内の懸念に光を当てています。.

研究者はAI絶滅リスクについて警告を表明

この調査の著者であり、カリフォルニア州の機械知能研究所の研究員であるカチャ・グレース氏は、高度なAIがもたらすリスクが小さくないという信念の重要性を強調した。グレース氏は、「ほとんどのAI研究者が、高度なAIが人類を滅ぼすという可能性をtronあり得ないと考えていないことは、重要なシグナルだ」と述べた。しかし、オハイオ州のケース・ウェスタン・リザーブ大学のエミール・トーレス氏によると、直ちに警戒すべき理由はないという。.

トーレス氏は、専門家による調査に過剰反応することに対して警告を発し、専門家による調査はAIの発展を正確に予測する上でtron強力な tracがないと指摘した。2012年に行われた先行研究では、AI専門家による予測は世論と同等の信頼性しか持たないことが明らかになっている。今回の調査の著者らはまた、AI研究者がAIの将来の軌道を予測する専門知識を有していない可能性も指摘している。.

加速されたマイルストーンと早期予測

2022年版の同調査と比較すると、最新の調査では多くのAI研究者が、AIが以前の予測よりも早く特定のマイルストーンに到達すると予想していました。これらの予測は、ChatGPTのような高度なAIチャットボットサービスが2022年11月に開始され、シリコンバレーで同様のAIモデルが急速に導入されたことと一致していました。.

研究者たちは、AIシステムが今後10年以内に様々なタスクを成功させる確率が50%以上になると予測しました。これらのタスクには、テイラー・スウィフトのような人気アーティストの曲と区別がつかない曲を作ったり、決済処理ウェブサイト全体をゼロからコーディングしたりすることが含まれます。しかし、住宅への電気配線の物理的な設置や長年のmatic的な謎の解明といった複雑なタスクには、より長い時間がかかると予想されていました。.

AIがあらゆるタスクで人間のパフォーマンスを上回る可能性は2047年までに50％とされ、人間のすべての仕事が完全に自動化される可能性は2116年までに50％とされた。これらの推定値は、前年の調査と比較してそれぞれ13年と48年の加速を示した。.

予測不可能なAIの進歩と差し迫った懸念

AI開発への期待が高まっているにもかかわらず、エミール・トーレス氏は技術革新の予測不可能性について慎重な姿勢を示した。トーレス氏は、AI分野は1970年代から80年代にかけて、「AIの冬」と呼ばれる資金と企業の関心が低下した時期を経験してきたと指摘した。.

さらに、AI研究者たちは、ディープフェイクを含むAIの悪用、世論操作、人工兵器の開発、権威主義的な国民支配、経済格差の悪化といった差し迫った懸念を指摘した。トーレス氏はまた、気候変動や民主的統治といった重要な問題に関する偽情報の拡散にAIが加担する潜在的な危険性についても強調した。.

AI研究者を対象とした調査では、高度なAI開発に伴う潜在的なリスクについて、AIコミュニティ内で高いレベルの懸念が表明されています。AIが人類絶滅をもたらすリスクの正確な割合は依然として不明ですが、リスクが決して小さくないという確信は、AI開発において倫理的および安全性に関する継続的な配慮の必要性を浮き彫りにしています。.

AIのマイルストーン予測が加速しているにもかかわらず、研究者たちは技術進歩の予測不可能性を認識しており、AIの誤用や社会への影響といった差し迫った懸念を強調しています。AIが進化し続ける中で、研究者、政策立案者、そして社会全体がこれらの課題に積極的かつ責任を持って取り組まなければなりません。.