存在論的リスクへの懸念を背景に、AI安全性において前向きな立場を取るイギリス

立場を大きく変えたイギリスは、人工知能（AI）に関連する潜在的な脅威に対処するために積極的に対策を講じています。リス・スナク首相は、国際AI安全性サミットの計画を発表し、これらの脅威に対処する緊急性を強調しました。この転換は、春にAIの存在論的リスクを「高インパクト、低確率」と特徴づけた以前のAI白書に続くものです。

この視点の変化は、AIの安全性を主張し、しばしばテック業界の著名な人物の支援を受けている思考のリーダーたちのグループであるエフェクティブ・アルトライズム（EA）運動の影響によるところもあります。

エフェクティブ・アルトライズム：未来中心のアプローチを提唱する

エフェクティブ・アルトライズム運動は、イギリスのAI安全性に関する立場を形成する上で重要な役割を果たしてきました。オックスフォード大学にルーツを持ち、シリコンバレーの重鎮たちの支援を受けています。EAの信奉者は、スーパーインテリジェントなAIが適切に管理されない場合、人類にとって存在論的脅威となる可能性があると考えています。 

彼らのアプローチは、即時的な懸念よりも長期的な考慮を重視し、スーパーインテリジェントなAIの追求は揺るぎない警戒心を持って進めるべきだと主張しています。彼らにとって、AI開発の潜在的な結果は二元的です：ユートピアか、それとも破滅か。この視点はイギリスで支持を集め、政府のアドバイザーはEAの懸念に共鳴し、スナク首相はこの運動と結びついたAIラボとの親密な関係を持っています。

イアン・ホガスによる警告が行動を促す

この転換における決定的な瞬間は、テック投資家のイアン・ホガスが4月に『フィナンシャル・タイムズ』でウイルス的に拡散された記事を書き、「神のようなAI」への競争とその人類の不要化または破壊の可能性について警鐘を鳴らしたときでした。彼の論文は、大規模なAI実験のモラトリアムを呼びかけた影響力のある「AI一時停止」 letter の感情を反映していました。

AIが絶滅リスクをもたらす可能性を示唆する別の手紙と相まって、これは広範な議論を引き起こし、スナク首相にこれらのリスクへの懸念を表明させました。

イギリスのAI安全性タスクフォースにおけるエフェクティブ・アルトライズムの影響

イアン・ホガスのリーダーシップの下、イギリスのファウンデーションモデルタスクフォースは新しいパートナーシップを発表しました。その多くはエフェクティブ・アルトライズム運動に関連しています。特に、「AI絶滅リスク」の手紙で知られるAI安全性センターは、主要なEA寄付者団体であるオープンフィランソロピーから主要な資金提供を受けています。AIシステムの潜在的に壊滅的なリスクを抱えるArc Evalsも、EA寄付者が支援するもう一つのパートナーです。 

変革的技術のガバナンスモデルに焦点を当てたコミュニティインテリジェンスプロジェクトも、EAコミュニティとつながっています。タスクフォースの研究チームには、AIシステムによる人類の絶滅リスクを軽減するためにオープンフィランソロピーから多額の助成金を受けているケンブリッジ大学のデビッド・クルーガー教授が含まれています。

AI安全性とフロンティアモデル

現在「フロンティアAIタスクフォース」として再ブランドされたタスクフォースは、直近の先にあるものを超えて出現するAIリスクに対処するために焦点を拡大しています。それはリスクを管理し、技術の恩恵を社会に活かすことを目指しています。しかし、この視点の変化は一部の立場から批判を集めています。 

研究者やAI倫理の専門家は、存在論的リスクへの焦点が、今日のAIモデルにおけるバイアス、データプライバシー、著作権問題といった緊急性の高い懸念を影に隠していると主張しています。彼らは、AI安全性の議論が警鐘的になり、実証的な証拠に欠けていることに懸念を示しています。

エフェクティブ・アルトライズム、テック巨人、政策の交差点

EA運動とシリコンバレーの強い結びつきは、その客観性について疑問を投げかけます。OpenAI、DeepMind、Anthropicなどの主要なAIラボはEAとつながりがあり、そのイデオロギーが彼らのエトスと意思決定に影響を与えています。 

Facebookの共同創設者ダスティン・モスコヴィッツによって設立されたオープンフィランソロピーは、OpenAIに多額の初期資金を提供しました。Skypeの創設者であるヤーン・タリンはDeepMindの初期投資家であり元取締役でした。EAに関連する「長期主義」の支持者であるイーロン・マスクは、AI安全性センターのディレクターであるダン・ヘンドリックスを、彼の新しいスタートアップxAIのアドバイザーとして雇っています。

AI安全性に対するEAの財政的支援

認識されている脅威に対抗するため、EA運動はAI安全性に多大なリソースを投入しています。オープンフィランソロピーの責任者であるハロルド・カルノフスキーは、AI安全性に集中するために一時的に退いています。EAのキャリアアドバイスセンターである80,000 Hoursは、AI安全性の技術的研究とAIの将来ガバナンスの形成を、EAにとっての最上位のキャリア選択肢として推奨しています。この支援は、「存在論的リスク」や「破滅の確率」などの独自の語彙と組み合わさっており、これがAI安全性の議論においてEAを際立たせています。

イギリスのAI安全性のアジェンダが勢いを増す中、一部の専門家は、バイアス、データプライバシー、倫理的考慮事項といった即時的なAI関連の課題を軽視することに対して警告を発しています。彼らは、存在論的リスクへの焦点がこれらの緊急性の高い問題を影に隠していると主張しています。また、運動がAI企業との近さが、業界が政策決定に不当な影響を及ぼす「規制の乗っ取り」につながる可能性について懸念を表明しています。

複雑な生態系：AI政策形成におけるEAの役割

エフェクティブ・アルトライズム運動がイギリスのAI安全性アジェンダの形成に与える影響は否定できません。学術界にルーツを持ち、シリコンバレーの支援を受けて、存在論的リスクを注目の的へと押し上げました。しかし、イギリスがこの複雑な状況を進むにつれ、政策決定者は長期的なAI安全性の懸念と、今日のAI技術がもたらす即時的な倫理的、法的、社会的な課題のバランスを取る必要があります。

AI安全性に対するイギリスの前向きなアプローチは、AI開発の進化しつつある景観を反映しています。エフェクティブ・アルトライズムとその長期的な視点がこの転換において決定的な役割を果たしましたが、イギリスは存在論的リスクに対処することと、今この瞬間にAIの倫理的および社会的含意を管理することのバランスを取るという課題に直面しています。国際AI安全性サミットが近づくなか、イギリスがこれらの複雑な水域をどのように航行し、世界的規模でAIの未来を形成することに貢献するかは、まだ見えていません。