トップのAI研究者、政府や企業にAI予算の33%をAI安全性への投資を要請

急速に進化する人工知能の分野で、トップの研究者や著名人たちが警鐘を鳴らし、AI安全性へのアプローチにおけるパラダイムシフトを求めています。チューリング賞受賞者3名、ノーベル賞受賞者1名、そして12人以上の著名なAI学者が署名した書簡は、政府や企業がこれらの高度なシステムの安全性と倫理的な使用を確保するために、AI研究開発資金の大幅な部分を割り当てることの重要性を強調しています。

国際AI安全性サミットが近づいている

世界がロンドンで開催される今後の国際AI安全性サミットに備える中、AIリスクへの対応の緊急性が中心課題となっています。書簡は包括的な対策のセットを提示し、政府やAI企業に対し、研究開発資金の少なくとも3分の1をAI安全性に割り当てるよう求めています。ジェフリー・ヒントン、アンドリュー・ヤオ、ダニエル・カーネマン、ドーン・ソン、そしてユバル・ノア・ハラリなどの著名人たちは、常に進歩するフロンティアAIシステムによる潜在的な害を防ぐための予防的な措置の必要性を強調しています。

AI研究コミュニティの著名人たちが署名した書簡によると、政府がAIシステムによって引き起こされる予測可能かつ防止可能な害に対する法的責任を義務付ける中心的な役割を果たすべきだという共通の認識があります。説明責任を求める呼びかけは、AI安全性の懸念に特化した広範な規制の欠如によって生じた空白を埋めることを目的としています。

政府にAI企業のシステムによる害に対する説明責任を求む

現在、AI安全性に焦点を当てた包括的な規制については、顕著なギャップが存在します。欧州連合（EU）の最初の立法セットは進行中ですが、立法府が未解決の問題と格闘しているため、まだ法律として成立していません。書簡はこの規制の空白に対する迅速な解決を推進し、AIの急速な進歩には、倫理的な開発を確保するために同等に迅速な予防措置が必要であることを強調しています。

AIの父の一人としばしば呼ばれるヨシュア・ベンジオは、AI安全性への投資の緊急性を強調しています。書簡の中で、最近の最先端AIモデルは過度に強力かつ重要であり、著者が警告するように民主的な監視が必要であるという感情が表明されています。AIの進歩のペースは予防措置を大幅に上回っており、潜在的なリスクから守るための即時かつ大規模なコミットメントが不可欠です。

強力なAIモデルが警報を発する

ジェフリー・ヒントンやノーベル賞受賞者のダニエル・カーネマンなどの著名人を含む書簡の署名者たちは、最近のAIモデルの驚くべき能力に注意を向けます。彼らは、これらのモデルが制御されないままにされるには影響力が大きすぎると主張し、その開発における民主的な監視の重要性を強調しています。

イギリスのコンピュータサイエンティストであるスチュアート・ラッセルは、企業がコンプライアンスコストについて懸念する点を退け、規制の必要性を強調しています。ラッセルは、規制がイノベーションを阻害するという考え方に異議を唱え、書簡の内容によると、サンドイッチショップよりもAI企業の方が規制が少ないことを指摘しています。AIの制御されない進行が前例のないリスクをもたらすという理解に基づき、迅速かつ決定的な行動の呼びかけが行われています。

AI安全性をめぐる議論は重要な局面に達しており、トップの研究者やインフルエンサーが政府や企業に対し、倫理的な考慮事項を優先し、AIの責任ある開発を確保するためにリソースを割り当てるよう求めています。世界が国際AI安全性サミットに備える中、疑問は残ります：これらの緊急の行動呼びかけは聞き入れられるのか、それとも、制御されないAI開発の潜在的リスクは増大し続けるのか。