ビル・ゲイツ氏、世界的投資が1兆ドルを超えたことを受け、法的に義務付けられたAI安全対策を提唱

ビル・ゲイツ氏は、AI企業が自己規制を許可されるべきではないと警告し、ワシントンに安全規制の設定を求めている。

Microsoftの共同創設者は、9月25日に公開されたNBC Newsのインタビューの中でこれらの主張を行った。これは「Meet the Press」で完全なインタビューが放送される2日前のことだった。

彼は、ゴールドマン・サックスが2026年の世界のAI投資が1兆ドルを超えると予測している時期に、この警告を発している。これは、新しい安全規制が、新しいセキュリティシステムの導入と規則の執行に取り組んでいる開発者、投資家、企業にとって重要な結果をもたらす可能性があることを意味する。

「誰も自己規制が十分だとは思っていない」

ゲイツ氏は、モデレーターであるクリステン・ウェルカー氏が議会による行動の必要性を問うた際、「Absolutely（もちろん）」と応じた。

ゲイツ氏によると、「誰も自己規制が十分だとは思っていない」。彼は、AI企業がリスクをどのように監視し、どのような安全対策を講じるべきかについて、定義された法律を立法府と法執行機関が定めるべきだと考えている。彼は開発者の責任を「少しのオーバーヘッド」と表現し、進歩を遅らせるものではないとした。

彼の懸念は、通常の悪用を超えている。NBCとのインタビューでゲイツ氏は、AIは「間違いなく、10億人の死者を出すような出来事を引き起こすのに十分な力を持っている」と述べ、特にこれらの高度なシステムが悪意のある者の手に渡った場合にそうだと指摘した。

業界リーダーたちは、これらのセーフガードがどこまで及ぶべきかについて異なる見解を持っている。AnthropicのCEOダリオ・アモデイ氏は、「完全なペース配分、あるいは『一時停止』」さえも、集団的な速度低下の最も極端な形態として提案した。OpenAIのCEOサム・アルトマン氏も同様の懸念を示し、「ペース配分のコストはこの価値に見合う」と主張し、競合他社に先んじる圧力を無謀な行動の言い訳にしてはならないと強調した。

しかし、MetaのCEOであるマーク・ザッカーバーグ氏は異なる見解を示している。NBC Newsとのインタビューで、「業界全体の調整が必要だとは思わない」と述べ、ラボが安全上のリスクを感じた場合にのみスローダウンすべきだと好んでいる。

ゲイツ氏は、開発を停止するのではなくリスクを管理したいと考えている

ゲイツ氏は、テクノロジーセクターがAIシステムの開発を中止するよう求めているだけではない。8月にGates Notesで公開されたエッセイで、彼は人工知能が「発明された中で最大の平等化要因となるか、あるいは最悪の不公正の源となるか」と述べた。

彼はまた、AI開発の世界的なスローダウンに関する信頼性の高い計画を支持する可能性があると述べたが、開発を続けるための経済的および政治的理由があるため、そのような計画が効果的かどうかには懐疑的だった。

したがって、彼の立場は単に新しい開発を終わらせることだけでなく、AI技術が医療、法律、ソフトウェア、カスタマーサービスなどの分野で応用を見つける際に、企業、政府、個人を準備させることにある。

ルールを待つ1兆ドル規模の市場

安全対策をめぐる議論は、AIへの資金が殺到しているのと同時に進行しており、新たな規則にとっての stakes ははるかに高くなっている。ゴールドマン・サックスは、2026年の世界のAI投資が1兆ドルを超え、そのうち約5810億ドルが米国に集中すると予想している。また、2022年以降の累積投資は年末までに1.8兆ドルに達する可能性がある。

このAI投資の成長にもかかわらず、Microsoftは誰もがその利点と恩恵を平等に享受してきたわけではないと述べている。MicrosoftのAI拡散データは、グローバルノースとグローバルサウス間の格差の拡大を示しており、OECDは、AIの能力が依然として限られた数の国と企業に留まっていることを強調している。

これにより、規制はさらに難しいバランス act となる。より良い保護はリスクを軽減できるが、小規模なラボや裕福でない国々にとって、これらの規制への準拠に伴う追加コストは非常に負担が大きいものとなる可能性がある。

規制のパッチワークがすでに形成されつつある

より厳格な規制を求める声は、増大する証拠によって支持されている。チューリング賞受賞者であるヨシュア・ベンジオの指導の下、100人以上の専門家が作成したInternational AI Safety Report 2026は、AIシステムの能力増加がもたらす既存の危険と潜在的な将来の脅威を記述している。

同時に、政府はすでにこれらのリスクに関する規制を策定しつつある。TRM Labsによると、異なる国々がAIガバナンス、実装、説明責任に対して異なるアプローチを取っているため、新たな世界的な「パッチワーク」のAI規制が出現している。

欧州連合（EU）は、他の多くの国々よりも積極的にこれらの目標の実現を目指してきた。EU AI Actによると、汎用AIの提供者は、ドキュメント、著作権、トレーニングデータに関する透明性において厳格な義務に従わなければならない。10^25 FLOPを超えるモデルはシステムリスクを伴うと見なされ、モデル評価、リスク管理、事故報告、サイバーセキュリティに関する追加基準に対応する。

規制の増加に伴い、それらへの準拠を試みる企業が支出する金額も増加している。Gartnerによると、2027年までにAIのセキュリティ確保に組織が支出する金額は68.7%増加し、約48億ドルに達すると予想され、2028年には77億ドルに近づくと見込まれている。

ワシントンもより堅牢な規制フレームワークへと動きつつあるようだ。Cryptopolitanの報道によると、上院の交渉担当者は、AI開発者に対する「善管注意義務」を確立する両党によるイニシアチブを検討しており、これにより政府が安全でないモデルのリリースを防止できる可能性がある。これが承認されれば、ゲイツ氏が求めている保護のメカニズムは、自主的な義務の領域から法的拘束力のある責任へと移行することになる。