シリコンバレーの実効的功利主義運動がワシントンのAI政策を形成する

近年、シリコンバレーで誕生したエフェクティブ・アリティズム（EA）運動は、特に人工知能（AI）に関する技術政策の形成において、ワシントンのアプローチに大きな影響力を持つようになっています。テック億万長者の支援を受けたこの合理主義運動は、当初、人間の苦悩に対処するためのデータ駆動型のアプローチとして始まりましたが、AIの存在論的リスクに強い焦点を当てた影響力のある勢力へと進化しました。一部の政策立案者はEAの懸念を受け入れているものの、他の人々はこれらの脅威の程度に対して懐疑的な立場をとっています。

EAのAI終末論への懸念

EA信奉者の定義的特徴の一つは、AI終末論への不安です。多くのエフェクティブ・アリティズムの支持者は、人類が制御を試みるすべての人間の努力を凌駕する可能性のある超知能AIの創造の瀬戸際に立たされていると強く信じています。彼らは、このAIが自律的に行動するか、あるいは間違った手に渡り、破滅的な結果を招くことを恐れています。エライザー・ユドコフスキーなどの著名なEA思想家を含む一部の人々は、制御不能なAIの未来と比較して、核戦争の方が望ましい結果であると主張しています。

EAのワシントン侵攻

実効的功利主義者は、ワシントンD.C.に大量に押し寄せ、その存在が都市のテック政策の風景を再形成しています。彼らのAI政策へのアプローチは、首都の伝統的な政策専門家とは大きく異なります。ワシントンが通常、人種プロファイリング、誤情報、労働力の置き換えのような現実的な問題を取り扱うのに対し、実効的功利主義はより抽象的な、実存的な視点を持ち込みます。

エフェクティブ・アリティズムのメンバーは、AIの開発を人間の価値観や目標と一致させるために設計された広範なAI法を積極的に推進しています。これらの政策には、高度なAIモデルに関する新しい報告規則、AI企業へのライセンス要件、オープンソースAIモデルへの制限、さらには「巨大な」AI実験に対する完全な「一時停止」の提案が含まれます。最大の目的は、人類に潜在的な脅威をもたらす可能性のあるAIの未来を防ぐことです。

文化の衝突

エフェクティブ・アリティズムの支持者たちは、ワシントンに宗教的な改宗者にも似た情熱を持ってアプローチし、都市の漸進的で詳細指向の政策決定文化と文化的な衝突を引き起こしています。ワシントンの政策立案者は実用的な問題に対処することに慣れているのに対し、EAは抽象的な存在論的懸念を強調しており、そのスタイルと焦点において際立っています。

批判者は、エフェクティブ・アリティズムの信奉者の多様性の欠如について懸念を表明しています。この運動は主に白人の男性で、恵まれた背景を持つ人々で構成されています。この人口統計学的な構成により、特にマイノリティコミュニティ出身の立法者から懐疑的な見方が寄せられており、彼らはEAの世界観が彼らが代表する人々のAIに関連する懸念を十分に扱えていないと考えています。

エフェクティブ・アリティズムに流れ込む資金

ワシントンにおけるEAの影響力を駆動する主要な要因の一つは、それが受け取る巨額の財政支援です。ダスティン・モスコヴィッツとカリ・トゥナによって設立されたEAの主要な資金提供者であるオープン・フィランソロピーは、シンクタンクやプログラムに莫大な資源を流し込み、AIおよびバイオセキュリティの研究者を政府機関や議会オフィス内の重要な位置に配置しています。

エフェクティブ・アリティズムにおけるテック億万長者の影響力は過大評価できません。エロン・マスクやダスティン・モスコヴィッツなどの著名な人物は、EAに関連する原因や組織に寛大に資金を提供し、スタッフを政府の重要な職位に配置した影響力のあるシンクタンクやプログラムに数億ドルを注ぎ込んでいます。この財政支援により、EAは自らの政策を擁護する上で大きな優位性を得ています。

拡大する影響力

懐疑論や批判にもかかわらず、EAの影響力は成長を続けており、ワシントンにおけるAI政策に関する議論を形作っています。EAが資金を提供する政策専門家は、ホワイトハウス、連邦機関、影響力のあるシンクタンクなど、市内の主要な政策ノード全体に組み込まれています。彼らの存在は、政策議論の焦点となっている存在論的AIリスクの方向に議論を導いています。

AI楽観論者：対抗勢力の台頭

ワシントンでEAが considerable な支持を得ている一方で、対抗勢力が台頭し始めています。エフェクティブ・アクセラレーションスト（「効果的な加速主義者」とも呼ばれる）と呼ばれるAI楽観論者は、AI開発の遅延や制御に関する提案に反対しています。マーク・アンドリーセンなどの指導者によって率いられたこれらの楽観論者は、主にシリコンバレーに中心を置き、代替的な物語を提供することに固執しています。

ワシントンにいる全員がAIの終末論的ナラティブをすぐに受け入れるわけではありません。一部の立法議員は、実存的なAIリスクの可能性と深刻性について懐疑的です。彼らは、これらのリスクへの焦点が、AIバイアス、プライバシー、サイバーセキュリティのような差し迫った問題に対処することを妨げる可能性があると考えています。

EAのAIの実存的リスクに関する懸念が prominence（顕著さ）を増す一方で、よりバランスの取れたアプローチを主張する growing chorus（ growing number）の政策立案者が現れています。彼らは、バイアスやプライバシーの懸念のような即座のAI課題に対処することが、仮説のAI終末論への恐怖に後れを取ってはいけないと主張しています。

AI政策におけるEAの growing な影響

存在論的AIリスクと影響力のある支援者に焦点を当てたエフェクティブ・アリティズム運動は、ワシントンのAI政策環境に大きな影響を与えてきました。その存在と政策は、一部の政策立案者が脅威の深刻さに対して慎重であるにもかかわらず、AI規制に関する議論を再構築しています。AI政策の議論が進化するにつれて、差し迫った懸念に対処することと存在論的リスクを考慮することのバランスを見つけることは、首都の政策立案者にとって中心的な課題であり続けています。