チャールズ国王は、AIが生命を奪う「より邪悪な能力」を発達させる前に、AIを制御するよう警告した。

スコットランドで開催されたサミットで、チャールズ3世は世界最大のAI企業のトップに対し、AI技術を人間の管理下に置く方法を見つけなければならないと述べた。. 

国王は、それを建造した人々が、それが「より暗い能力」を発揮し、殺戮に転用される可能性さえあることを恐れていると警告した。. 

チャールズ3世は人工知能について何と言っているのだろうか？ 

チャールズ3世国王は ダンフリーズ・ハウスで演説を行った 。この会合はディッチリー財団が主催し、英国のAI担当大臣カニシュカ・ナラヤン、Nvidiaの最高経営責任者ジェンセン・フアン、DeepMindの共同創設者デミス・ハサビス、OpenAIの最高財務責任者サラ・フライアー、Anthropicのグローバル担当責任者ティノ・クエジャールなど、約30人の経営幹部、政府関係者、研究者が集まった。

ブルームバーグが入手した非公開の招待客リストには、MI6長官のブレイズ・メトレウェリ氏、作家のユヴァル・ノア・ハラリ氏、清華大学の薛蘭氏などの名前も含まれていたと報じられている。.

77歳のチャールズ氏は、実りある話し合いを期待して、わずか20分ほど話した後、部屋を出て行った。 彼は、「我々が自らの運命や魂を失わないという確証を、切実に求めている」と述べた。

チャールズ氏は、この技術の進歩の速さを「興味深いと同時に、非常に憂慮すべきものだ」と述べた。医学や生命科学におけるその実績を認め、称賛した上で、「手遅れになる前に、十分な制御手段が必要なのは間違いないのではないか？」と率直な疑問を投げかけた。

国王は警告の中で、AI技術の開発者たちの懸念に言及した。また、これらのシステムは「より邪悪な能力、ひいては生命を奪う能力さえも発達させる」危険性があると述べた。さらに、 と付け加えた 。 

チャールズ皇太子は以前にも、ブレッチリー・パークで開催された2023年英国AI安全サミットにビデオメッセージを送り、同様の意見を表明していた。. 

バチカンのAI顧問であるパオロ・ベナンティ氏もサミットに出席しており、レオ14世教皇は5月の回勅の中で、AIは「少数の人々の手」にとどまるべきではないと述べている。

AI開発は減速するだろうか？ 

ハサビス氏は代表者たちに対し、多くのタスクにおいて人間と同等またはそれ以上の能力を持つ汎用人工知能（AGI）は「おそらくほんの数年後には実現するだろう」と語った。 

彼は、テクノロジーが産業革命の10倍もの潜在的影響力を持つ可能性があると述べた。何かがうまくいかない可能性は「defiなくゼロではない」と付け加えたが、「未来はまだ決まっていない」とも述べた。

フライアー氏は、この技術の力が増大するにつれて、それを人々のために役立て続けることの是非が問われるようになり、「どの企業や政府も単独ではそれを成し遂げることはできない」と述べた。 

時価総額が5兆1500億ドル近くに達するNvidiaの創業者である黄氏は、安全性が最優先事項であり、製品が準備できていないのであれば、発売を控えるべきだと述べた。彼は、AI技術そのものではなく、AI製品を規制すべきだと主張し、小規模国や研究者が排除されないようにするためには、オープンなモデルが不可欠だと擁護した。.

今回のサミットは、人類学者ジェイコブ・コックスン氏による辞任表明の投稿がネット上で拡散し、同僚のエヴァン・ヒュービンガー氏がAIが人類絶滅を引き起こす可能性が10％あると予測したことを受けて開催され、懸念が広がっている。.

Cryptopolitan 、Anthropicのダリオ・アモデイ氏が研究室に対し「最先端技術を先導する」よう促すエッセイを発表したこと、そして OpenAIが今週、 ことを受け、モデルの不正行為を公表するシステムを立ち上げたことを報じたdent。 

しかし、誰もがその危険性を現実のものと認めているわけではない。ドナルド・トランプdent は、そのような懸念を「でっち上げ」だと述べている。