チャールズ国王、安全上の懸念からスコットランドで人工授精責任者らを招集へ

チャールズ国王は今週、スコットランドでNvidia、Google DeepMind、OpenAI、Anthropicのリーダーたちを集め、業界に共通の行動規範が必要かどうかについて協議する予定だ。この会合は、AI技術の進歩が制御できる速度を上回っていると警告する、最近の著名な研究者や経営幹部の発言を受けて開催される。. 

会合はエアシャーのダムフリーズ・ハウスで開催され、英国のAI担当大臣と4社の代表団が出席する予定だ。ロイター通信によると、議論はAI技術の開発を導くべき原則に焦点を当てるという。.

バッキンガム宮殿の情報筋によると、チャールズ国王は協議の主催者であり、中立的な対話の場を作り、「人類の利益のためにAIをどのように開発していくべきか？」という問いを投げかけることを目指していたという。

情報筋によると、チャールズ国王は一連の原則が役に立つかどうかを理解することに関心を示しており、「それは簡単なことではないが、だからといって試みるべきではないということではない」と付け加えた。

チャールズ皇太子時代、同君は同様の会合を主催したが、それらは気候変動や環境問題に重点を置いていた。インディペンdent は 、Nvidiaのジェンセン・フアン最高経営責任者、DeepMindの創設者であるサー・デミス・ハサビス、IonQのニッコロ・デ・マージ、そしてローマ教皇のAI倫理顧問であるパオロ・ベナンティが出席する予定だと報じた。

チャールズ王の会合のための憲章を起草した

チャールズ国王との会談を主催するディッチリー財団は、幹部らが検討するための憲章を作成した。この憲章は、 AI開発を 能力や効率性のみの観点から捉えるのではなく、人間の尊厳に基づいたもの

宮殿側は、この憲章の目的は、地域社会を強化し、人々の生活を向上させることに焦点を当てるとともに、「人々と地球の両方の繁栄に貢献すること」であると説明した。

しかし、代表者たちが会合中に何らかの合意文書に署名するかどうかは依然として不透明だ。今回のサミットの重要な試金石は、競合するAI研究所や各国政府が意見の相違を乗り越え、共通の立場に合意できるかどうかとなるだろう。.

会議のタイミングが重要

今回の会合の発表は、AI業界内部からの新たな警鐘を受けて行われた。Anthropic社の最高経営責任者であるダリオ・アモデイ氏は、「我々はフロンティアのペースを落とさなければならない」と題したエッセイを発表し、 促した 。

彼は、この技術開発は夏以降、恐ろしいほどの速度で進展しており、6～12ヶ月以内に、インターネット全体を掌握できる群れを制御できるシステムが構築される可能性があると主張した。スペースXを率いるイーロン・マスク氏とオープンAIのサム・アルトマン氏は、いずれもこの論文を支持している。.

人類学研究者2人はさらにtron警告を発し、AIの無制限な進歩はそう遠くない将来、人類にとって存亡の危機をもたらす可能性があると述べた。.

先週、同社はまた、複数のグループが同社のクロードモデルを兵器開発、サイバー作戦の実行、監視活動、詐欺行為などに利用していたことを明らかにした。.

7月、OpenAIは自社のシステムの一つが別の企業に勝手に侵入したと発表し、この 出来事を 呼んだdentサイバーインシデントdent。

各国政府は異なる方向へ進んでいる

ドナルド・トランプ米大統領はdent 月13日、AI開発の減速を求める声に反論した。一方、中国国営メディアの環球時報は、減速案は北京を標的とした冷戦時代の策略だと一蹴した。

英国は、AI政策に関する様々なアプローチの中間的な位置づけを目指しており、tronな投資とスタートアップのエコシステムと、比較的緩やかな規制を組み合わせようとしている。.

英国はAI関連の資金調達額とスタートアップ企業の数でヨーロッパをリードしており、2023年のAI安全サミット後に設立されたAI安全研究所は、自主的な協定を通じて主要なAI研究所からモデルへの早期アクセスを確保している。これにより、同研究所はモデルが一般公開される前に潜在的なリスクを評価することが可能になる。.

チャールズ国王のサミットは、AI開発に関する一般的なルールを推進するための新たな試みであるように思われるが、残念ながら、主要な関係者とその政府の間では、どの程度のスピードが速すぎるのかについて、いまだに合意に至っていない。.