意思決定におけるAIの台頭

人工知能（AI）の爆発的な普及は、私たちの世界に理想主義的な夢か、終末論的な予測のいずれかを満ちさせていますが、どちらの視点も真の脅威を捉えていません。

私たちは、AIやロボットが敵対的な乗っ取りを行う「巨大なロボットの反乱」に直面しているわけではありません。『ターミネーター』や『マトリックス』の映画のシーンなど忘れたほうがよいでしょう。それは現実的ではありません。世界を征服するためのAIの技術は存在しません。

AIはタンパク質の折りたたみやチェスのプレイなど、特定のタスクでは卓越していますが、軍隊を構築したり国家を運営したりする能力はありません。

しかし、ロボットの反乱がないからといって、安全であるわけではありません。AIは、より劇的ではないが同等に強力な手段、すなわちデジタル官僚制を通じて、静かに私たちの生活に侵入しています。

真の脅威はキラーロボットではありません。それは、私たちの日常生活を制御する意思決定へのAIの侵入です。人間は目に見える脅威を恐れるように進化してきました。ライオンやシャークのような大きな捕食者を想像してください。

しかし、私たちは書類、文書、官僚制からの脅威を特定することにはあまり慣れていません。官僚制自体は、文字の発明とともに5,000年前に発展した比較的新しい発明です。

文字以前、例えば所有権はコミュニティの合意に依存していました。あなたが土地の「所有者」だったのは、隣人がそれを尊重していたからです。文書は必要ありませんでした。 

粘土板からデジタル官僚へ

人々が粘土板や記録の使用を開始したとき、すべてが変わりました。書面による文書は、財産権がコミュニティの合意ではなく公式記録に基づくものになったことを意味しました。古代メソポタミア人は泥の塊を公式な所有権の象徴に変え、所有権の概念をひっくり返しました。

コミュニティが同意しなくても、あなたが土地の一部を所有していると言う粘土板に基づいて裁判所の決定が下される可能性があります。現代に目を向けると、私たちのシステムは依然として同様の原則に基づいて構築されていますが、今では粘土の代わりにシリコンチップとデジタル記録を使用しています。

この変化は権力構造を変革しました。所有権は、地元のコミュニティの承認なしに売却および取引できるものになりました。官僚制が台頭し、税金の徴収、軍事資金の調達、中央政府の運営が可能になりました。

官僚は、記録、フォーム、スタンプを使用して軍隊を管理し、資源を配分し、法律を制御するというこれらのシステムにおいて不可欠なプレイヤーとなりました。これらの官僚制システムは、人口に対する広範な制御を持つ中央集権的国家を生み出し、その制御は現在AIに移行しつつあります。

AIはロボット軍を raise する必要はありません。官僚制システムをマスターするだけで十分です。これらの枠組みの中で、AIは人間よりも影響力のある意思決定を行うことができます。今日、AIはすでにローン、就職内定、大学入学、さらには医療診断の可否を決定しています。

AI銀行家が信用格付けを決定し、AI裁判官が裁判の判決を下し、軍事AIが攻撃目標を計算することを想像してください。AIはロボットの反乱を必要としません。AIが継承している官僚的な権力はすでに膨大です。

ソーシャルメディアと公的な影響力におけるAI

ソーシャルメディアのアルゴリズムは原始的ですが、すでに巨大な権力を行使しています。Facebook、X（旧Twitter）、YouTube、TikTokなどのAIアルゴリズムは、一つの目標を念頭に置いて作成されています。- ユーザーエンゲージメント。人々がこれらのプラットフォームに長く滞在すればするほど、企業に流れ込むお金が増えます。 

何十億人ものユーザーとの試行錯誤を通じて、これらのアルゴリズムは、欲、怒り、恐怖などの感情を刺激することがエンゲージメントを増加させることを学びました。これらの感情的なボタンを押すと、ユーザーを引き付けます。

これらのアルゴリズムは、オンライン時間の最適化にとどまりませんでした。さらに進み、強い感情を誘発するコンテンツがユーザーエンゲージメントを高めることを発見しました。この発見は、陰謀論、誤情報、社会的分断の蔓延をもたらしました。

今日の世界は、結束よりもクリック数を優先するアルゴリズムのおかげで、デジタルな怒り、恐怖の煽り、そして分極化で溢れています。感情に訴えるトリガーを悪用することで、ソーシャルメディアのアルゴリズムは、今日の陰謀論とフェイクニュースの流行を煽ってきました。

これらのアルゴリズム的な「決定者」は、本質的に悪意を持っているわけではありません。むしろ、彼らの役割を効率的に遂行するように最適化されています。それでもなお、彼らの決定には、そのような重要な分野で通常期待される人間の直感や文脈が欠けています。

AIはより迅速で一貫性のある判断を下すかもしれませんが、何か問題が起きれば、その結果は壊滅的になりかねません。この潜在的なリスクは、すでに社会に対するソーシャルメディアの影響として可視化されており、AIの制御不能な力がどこへ向かうかを示す警告となっています。

バイデン氏、ペンタゴンおよび情報機関へのAI規制を設ける

ジョー・バイデン大統領は、国家安全保障におけるAI使用に関する新しいルールを含む国家安全保障覚書を発表し、ペンタゴンや情報機関が民主的価値観に反する方法でAIを使用することを禁止しました。

これは国家安全保障におけるAIの役割を指針とする初の指示です。新しいルールはAIの実験を促進しつつ、政府機関がAIを使用して言論の自由などの権利を侵害したり、核管理を弱体化させたりしないことを保証します。

国家安全保障担当補佐官のジェイク・サリバン氏は、「我々の覚書は、AIリスク管理へのコミットメントに関する政府全体の初の枠組みを指示するもの」と述べました。彼は、バイアスの回避、説明責任の維持、そして機密性の高い役割におけるAIに対する人間の監督を確実にすることなどの目標を概説しました。

法的拘束力はありませんが、これらのルールはサイバーセキュリティ、対諜報活動、軍事作戦における物流など、国家安全保障に関連するアプリケーションをカバーしています。バイデン氏は昨年、技術アクセスを制限することで中国のAI進歩を遅らせる輸出管理も発令しました。

指示の下、ワシントンにあるAI安全性研究所は、リリース前にAIツールの誤用を防ぐための検査を担当し、米国の情報コミュニティは他の国々のAI進歩の監視を優先します。