マイクロソフトのAI責任者、技術が実存的リスクをもたらす場合は開発を中止すると約束

マイクロソフトのコンシューマー向け人工知能責任者ムスタファ・スレイマン氏は、高度なAIが人間の安全を脅かすようなことがあれば、開発を全面的に中止すると述べた。

ムスタファ氏はブルームバーグの「ミシャル・フセイン・ショー」に出演し、マイクロソフトの焦点はいかなる犠牲を払ってでも権力を追い求めることではなく、人類の利益に沿ったスーパーインテリジェンスの構築にあると断言した。

「私たちは、私たちから逃げ出す可能性のあるシステムの開発を続けるつもりはありません」とムスタファ氏はインタビューで述べた。彼は、この立場は議論の余地がなく、AI業界全体ではまだ珍しいと考えているものの、当然の立場だと付け加えた。

マイクロソフト、高度なAIシステム構築の自由を取り戻す

ムスタファ氏は昨年初め、消費者向けAIツールの開発のためOpenAIを放棄し、同氏が立ち上げたInflection AIの知的財産とチームの大半を同社が買収した後、マイクロソフトに入社した。

買収後、ムスタファは、すでに市場に出回っているtronのモデルと直接競合できる製品を構築する任務を負いました。

その間、彼の研究には多くの制約があった。マイクロソフトとOpenAIの提携に伴うtrac条件により、同社は人間レベルのパフォーマンスを発揮できるシステムと defiされる汎用人工知能（AGI）だけでなく、人間の能力を超える超知能の開発もできなかったのだ。

ムスタファ氏によると、マイクロソフトはOpenAIの最新モデルへのアクセスと引き換えにこれらの権利を放棄したという。この契約には、マイクロソフトが数年にわたってOpenAIのためにデータセンターを建設し、設備を整えることも含まれていた。

その構造は10月に変更されました。新しい契約により関係が再構築され、開発権はマイクロソフトに戻りました。

ムスタファ氏によると、OpenAIは現在、ソフトバンクやオラクルを含む他のパートナーとインフラ契約を結んでおり、マイクロソフトが約束していたよりも多くのデータセンターを建設する予定だという。「彼らは現在、ソフトバンクやオラクルをはじめとする多くの企業と契約を結び、マイクロソフトが建設を希望していたよりも多くのデータセンターを建設しています」とムスタファ氏は述べた。「そしてその見返りとして、私たちは独自のAIを開発する権利を得ているのです。」

同氏は、マイクロソフトは過去18カ月間、汎用AIの開発に注力してきたが、現在はさまざまなタスクで人間のパフォーマンスを上回る可能性のある仕事に進出していると述べた。

「過去18か月間、当社は汎用的なAI開発会社として活動してきましたが、今後はあらゆるタスクにおいて人間の能力を超える可能性を秘めた技術や手法に取り組むことができます」とムスタファ氏は 述べ、「これは当社にとって大きな転換点です」と付け加えた。

スレイマン大統領、ツールが未完成のため慎重なアプローチを示唆

ムスタファ氏は先月、ブログ投稿でスーパーインテリジェンスへの取り組みを正式に発表し、そのようなシステムは人間に役立つように設計されなければならないというマイクロソフトの立場を明らかにした。OpenAIやAnthropic PBCといった他の主要企業も、安全性と人間の利益について同様の主張をしばしば行っている。

「誰もが自分たちの立場や行動を決めなければなりません。私は彼らが今どのように行動しているかを批判したくありません」と彼は述べた。「大規模な集団被害の証拠は見当たりません」

ムスタファ氏は、超知能への長期的な焦点にもかかわらず、現在の議論は依然として学問的なものであると述べた。

消費者は、チケットの予約や買い物プランの作成といったタスクをこなせるアシスタントを期待しています。経営幹部は生産性の向上を期待しています。しかし、どちらのグループもまだそのレベルに達していません。

ムスタファ氏はその証拠としてマイクロソフトのコパイロット・コンシューマー・アシスタントを挙げた。同氏は、そのエージェントのような機能はまだテスト中で、必ずしも意図したとおりに動作するわけではないと述べた。

「まだ実験中です」とムスタファは言った。「でも、うまくいけば、今まで見た中で最も魔法のような体験になるでしょう。」