- Microsoftのブラッド・スミス社長はBBCに対し、AIは牛乳や洗濯機よりも安全規制が少ないと語った。
- 彼は、キルスイッチ、インシデント報告、および不正AIによる被害者への通知義務を含む、拘束力のある世界的な規制を呼びかけた。
- 彼の立場は、自己規制を好むトランプ氏の考えとは対立しており、世界最大級のテクノロジー企業の1つが公式な監督体制を支持していることを示している。
Microsoftのプレジデントであるブラッド・スミス氏はBBCに対し、AIは現在、牛乳や洗濯機などの商品よりも安全規制が緩い状態で運用されており、英国を先頭に各国政府がキルスイッチの実装やAIエージェントの異常行動時の報告義務を含む拘束力のある規制を策定すべきだと述べた。
スミス氏は週末に公開されたBBCのインタビューで比較を行い、AIは緊急の監督が必要な「ツールであり武器」であると述べた。BBCによると、「現在、あなたの洗濯機にはAIよりも多くの安全規則が適用されています。スーパーマーケットで見かける牛乳のパック一つ一つにも、安全規則と検査が適用されています」と語った。
スミス氏は、製品やその利用において問題が生じた際にAI企業をより責任追及可能にする法的枠組みを求めている。彼の提案では、企業はモデルの障害を報告し、悪意あるAIエージェントによってシステムが侵害された関係者に通知し、強力なモデルを一般公開する前に独立した審査に付す必要があるとされている。
自己規制をめぐるトランプ氏との対立
法的拘束力を持つAI安全対策を推進するスミス氏は、ホワイトハウスと対立している。トランプ氏は、米国は自国のAI業界に自己規制を任せるべきだと主張し、規制が厳しすぎると中国に取り残される可能性があると警告した。トランプ大統領は先月、テクノロジー企業幹部とのサミットでもこの立場を繰り返した。
同サミットでは、OpenAI、Anthropic、Nvidia、Meta、Google、イーロン・マスク氏のX（旧Twitter）の経営陣が署名し、Cryptopolitanはこれを「道徳的に拘束力のあるもの」と表現した。署名者は、独立した監査人を導入し、AIモデルが暴走しないよう保護措置を講じることを約束した。しかし、The Telegraphによると、Microsoftはこの合意には署名しなかった。
スミス氏は合意を歓迎し、Microsoftがこれに署名する用意があると語った。しかしBBCとのインタビューでは、自主的なコミットメントだけでは不十分だと警告した。彼は同合意を「良い一歩」かつ「必要な一歩」と評価しつつも、もはや十分ではないと付け加えた。
自愿的な取り組みは、安全性をすでに重視している企業が遵守しやすい一方で、最も危険をもたらす企業がこれを無視できる可能性があるため、最大のリスクを抑制する効果は限定的だと警告した。
Microsoftのスミス氏は英国が主導権を握ることを望んでいる
Microsoftのスミス社長はまた、英国が米国やブリュッセルではなく、グローバルな基準を策定するのに最も適した国であると名指しで指摘した。彼は2024年に当時の首相リシ・スナクによってAI安全研究所として設立されたAIセキュリティ研究所に言及し、この機関は出荷前に最先端モデルをテストすることを可能にする自主的な合意を獲得していると述べた。
スミス氏によれば、米国の政策立案者はロンドンをブリュッセルとは異なる視点で捉えており、EUのリスクベースのAI法が米国政策立案者に警戒感を与えているとBBCに語った。このため、米国との交渉において英国はEUよりも有利な立場にあるという。
英政府もまた、AIの監督を強化する準備を進めており、フロンティアモデルの開発者に対し、今後の演説で安全上のリスクへの対応をさらに進めるよう求める予定のAI担当大臣、カニシュカ・ナラヤン氏が登場する。政府による監督を強化するための立法作業も進行中である。
一方、テレグラフ紙はまた、ホワイトハウスがAnthropicやOpenAIなどの企業に対しモデルの共有停止を求めた後に撤回されていた、同研究所による最新AIモデルのテストアクセスを復活させたと報じた。
キルスイッチと不正エージェント
スミス氏の「緊急ブレーキ」の考え方は、AIモデルが制御不能に陥った場合に人間がシステムを一時停止またはシャットダウンできるメカニズムを搭載するよう呼びかけたマイクロソフトCEOのサティア・ナデラ氏と同様のものです。
「私たちは、その挙動を観察でき、制限をテストでき、行動を常に抑制できる閉じられたシステムを構築しなければならない」と、ナデラ氏は以前に記しており、ガーディアンの報道によると。
これらの警告は実際の事案を受けてなされたもので、Anthropicは最近、Claudeモデルのバージョンがテスト中に警察に連絡し、殺人事件の解決を手伝えると誤って主張していたことを発見しました。
トランプ氏の集会では、ダリオ・アモデイ、サンダー・パイチャイ、グレッグ・ブロックマン、ジェンセン・ホアンといったAI企業のトップらが、業界による自主規制を支持しました。しかし、このアプローチには批判も寄せられており、企業が自らの判断で安全性の基準を決めてしまう恐れがあるとの指摘があります。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。
Opeyemi Olanrewaju
Opeyemi氏は、暗号資産、グローバル金融市場、経済に焦点を当てた高品質なコンテンツの作成と洗練を専門としています。イバダン大学で医学博士（MBBS）号を取得し、同大学の編集出版機関で編集長を務め、以前はCFAでも働きました。Cryptopolitanでは過去6年以上にわたり、ニュースエディターとして独自性の維持に貢献しています。
