Microsoft AIの最高責任者、技術が存続的リスクをもたらす場合の開発停止を約束

Microsoftの消費者向け人工知能（AI）責任者であるムスタファ・スレイマン氏は、高度なAIが人間の安全を脅かす可能性がある場合、開発を完全に停止すると述べている。

Bloombergの『The Mishal Husain Show』での発言において、ムスタファ氏は、Microsoftの焦点は人間の利益に整合する超知能の構築にあり、いかなる代償を払ってでも純粋な力を追うことではないと誓約した。

「私たちは、私たちから逃げる可能性のあるシステムを開発し続けることはありません」とムスタファ氏はインタビューで語った。彼は、この立場は論争の的になるべきではなく、明白な立場であると述べた。彼は、この立場がAI業界全体ではまだ稀であると信じているが。

Microsoft、高度なAIシステムの構築の自由を回復

ムスタファ氏は昨年年初、Microsoftが彼のスタートアップであるInflection AIの知的財産とチームの大部分を取得した後、同社に加わった。Inflection AIは、消費者向けAIツールのためにOpenAIを離脱した。

買収後、ムスタファ氏は、すでに市場に存在する最も強力なモデルと直接競争できる製品の構築を任された。

その期間の大部分において、彼の作業には制限があった。MicrosoftとOpenAIのパートナーシップに関連する契約条項により、同社は、人間レベルでパフォーマンスを発揮できるシステムとして定義される汎用人工知能（AGI）や、人間の能力を超えるスーパーインテリジェンスの開発を禁じられていた。

ムスタファ氏は、MicrosoftがOpenAIの最新モデルへのアクセスと引き換えにこれらの権利を放棄したと述べた。この取り決めには、MicrosoftがOpenAIのために数年にわたってデータセンターを構築・整備することも含まれていた。

その構造は10月に変更された。新しい取引は関係性を再構築し、開発権をMicrosoftに戻した。

ムスタファ氏は、OpenAIは今やSoftBankやOracleなど他のパートナーとインフラ契約を結び、Microsoftがコミットするよりも多くのデータセンターを構築していると語った。「彼らは今、SoftBankやOracleなど多くの他社と契約を結び、Microsoftが彼らのために構築しようとしたよりも多くのデータセンターを構築しています」と彼は述べた。「そして、その見返りとして、私たちは独自のAIを開発する権利を得たのです。」

彼は、Microsoftは過去18ヶ月間、一般的なAI開発者であり続けたが、今ではタスク全体で人間の性能を超える作業に移行していると語った。

「過去18ヶ月間は、我们还是一般的なAI開発会社でしたが、今ではすべてのタスクにおいて人間の性能を超える可能性のあるいくつかの技術や方法論に取り組むことができます」とムスタファは述べた。「したがって、これは私たちにとって転換点です。」

スレイマン氏、ツールが未完成であるため慎重なアプローチを概説

先月、ムスタファ氏はブログ記事でスーパーインテリジェンスの取り組みを正式に発表し、そのようなシステムは人々に奉仕するように設計されるべきだというMicrosoftの立場を明らかにした。OpenAIやAnthropic PBCなど他の主要プレイヤーも、安全性と人間の利益について同様の主張をよく行う。

「誰もが自分は何を支持し、どのように運営するかを決定しなければなりません。私は彼らが現在どのように運営しているかを判断したくありません」と彼は述べた。「大規模な集団的害の証拠は見ていません。」

スーパーインテリジェンスへの長期的な焦点にもかかわらず、ムスタファ氏は現在の議論は依然として学問的なものであると述べた。

消費者は、チケットの予約やショッピングプランの整理などのタスクを処理できるアシスタントを期待している。経営陣は生産性の向上を期待している。どちらのグループも、まだ完全にそこには至っていない。

ムスタファ氏は、MicrosoftのCopilot消費者向けアシスタントをその証拠として挙げた。彼は、そのエージェントのような機能はまだテスト中であり、常に意図した通りに機能するわけではないと述べた。

「私たちはまだそれについて実験しています」とムスタファ氏は述べた。「しかし、それが機能するとき、それはあなたがこれまでに見た中で最も魔法のようなものです。」