英国、AIの「壊滅的な害」のラベリングに関する世界的合意をAI安全性サミットで提唱

画期的な動きとして、英国のリーシ・スナク首相は、英国が主催する今後のAI安全性サミットで、人工知能を「壊滅的な害」を引き起こす能力を持つと分類するイニシアチブを主導しています。来月にブレッチリーパークで開催されるこのサミットは、急速に進化するAIテクノロジーがもたらすリスクに対する統一された世界的な立場を確立することを目的としています。ブルームバーグが入手した出席者に配布された草案コミニュケは、AIがサイバーセキュリティとバイオテクノロジーに与える影響に関する具体的な懸念を概説しています。国際社会がAIがもたらす変革的な機会と格闘するなか、スナク氏は規制アプローチの形成と業界の「ガードレール」の確立において英国をリーダーとして位置づけようとしています。

懸念と保護策

英国の推進の核心には、最も危険なAIモデルの機能に起因する「甚だしい、甚至是壊滅的な害」の潜在的可能性を認識する姿勢があります。10月16日付の草案コミニュケは、汎用AIと狭義のAIの両方に関連する特定の安全性リスクに対する国際的な共同立場の必要性を強調しています。28カ国と多様なステークホルダーを代表する当局者は、10月25日までにコミニュケの最終化について審議する予定です。

文書は、AIの二面性を浮き彫りにし、特に健康、教育、科学、クリーンエネルギーなどの公共サービスにおける変革的な機会を認識しています。この事情に精通した人物は、この側面がサミットで主要な焦点となるだろうと述べ、AIが社会進歩にもたらす肯定的な可能性に光を当てています。

しかし、草案は、特にAI開発の「フロンティア」におけるリスクが、明確な評価指標、安全性テストツール、および公共部門の能力強化を必要とすることを強調しています。バランスの取れたアプローチの必要性を認識し、サミットはAIの約束と課題の両方に対処し、進歩が責任を持って活用され、人類に利益をもたらすことを保証することを目指しています。

世界の指導者は、AI開発に関与する企業からの透明性増大への呼びかけに同調すると予想されます。草案は、明確な評価指標の作成、安全性テストツールの開発、関連する公共部門の能力と科学研究の開発を提案しています。文書は、安全性リスクが汎用AIだけでなく、危険な機能を示す可能性のある特定の狭義AIからも生じることを強調しています。

AI安全性対策における世界的な協調と責任

英国が先導する一方で、草案や他の配布文書は、欧州委員会がフロンティアAIの安全性に関する国際的な協力プロセスを提唱していることを示しています。欧州連合は、サイバー攻撃における潜在的な悪用や、高度なシステムが制御を失うリスクに焦点を当て、独自のAI立法と整合したアプローチを求めています。

文書は、強力かつ潜在的に危険なAI機能を開発する開発者の責任を強調しています。これらの機能の安全性を確保することに強い重点が置かれ、「関連するアクター」に対して、潜在的な危険を測定、監視、軽減する計画について、文脈に応じた透明性と説明責任を提供するよう促しています。英国は、AIに関連するリスクを管理する進捗を追跡するために専念した、6ヶ月ごとのフォローアップ会議を維持する計画です。

草案の共同声明は、AIが「共通の利益」を最優先し、人間中心、安全、信頼性、責任あるという原則に適合する形で設計、開発、導入、利用される必要性を強調しています。国際社会がブレッチリー・パークに集結する中、世界はAI安全性に関する統一された立場が生まれ、安全で責任あるAIの未来への道を開くかどうかを見守っています。