トップAI担当者がAIの意識を「誤った質問」と呼ぶ

Microsoftの人工知能の責任者は、意識があるように見える機械を作成しようとする取り組みに反対し、意識を真に経験できるのは生物のみであると述べています。

Mustafa Suleymanは、今週ヒューストンで開催されたAfroTechカンファレンスでのCNBCのインタビューで、研究者は意識があるように見えるAIシステムを構築する取り組みを放棄すべきだと語りました。彼はそれを完全に誤ったアプローチと呼びました。

「人々がやるべき仕事だとは思わない」と、基調講演を行った会議でSuleyman氏は語った。「間違った質問をすれば、間違った答えにたどり着く。それは完全に間違った質問だと思う。」

Microsoftの人工知能の主要人物として、Suleymanは、人々が技術が苦痛を感じたり感情を持ったりすると信じさせる可能性のあるAIサービスの開発に対する顕著な批評家となっています。昨年、彼は「The Coming Wave」を書き、AIや同様の新興技術がもたらす危険性を調査しました。8月には、AIを模倣するのではなく人々を助けるために構築することを主張するエッセイを発表しました。

AIコンパニオンの成長する市場が議論を巻き起こす

この会話は、MetaやElon MuskのxAIを含む、AIコンパニオンの作成をめぐるテック企業の競争的なレースの中で展開しています。Sam AltmanのOpenAIが牽引する生成AIセクターが、人間のレベルの認知パフォーマンスを可能にするシステムである人工一般知能を追求するにつれ、この問題はますます複雑になっています。

Altmanは8月、人工一般知能はもはや特に有用な用語ではないと述べました。彼は、モデルは単に急速に改善しており、人々はますます多くのタスクでそれらに依存するようになるだろうと言いました。

Suleymanにとって、成長するAIの能力と人間の感情の可能性を分離することは深く重要です。

「私たちの身体的な痛みへの体験は、非常に悲しく、ひどい気分になるものですが、AIが『痛み』を経験しても悲しみを感じません」とスレイマン説明しました。「これは非常に重要な区別です。実際には、それは経験や自己、そして意識の知覚、つまり見せかけの物語を生成しているにすぎず、それが実際に経験しているものではありません。モデルが何をしているかを見れば、技術的にそれはわかります。」

彼は、哲学者John Searleによる理論である生物学的自然主義を指摘し、意識には生きた脳的生物学的プロセスが必要であると述べています。

「私たちが今日人々に権利を与える理由は、彼らを傷つけたくないからです。彼らは苦しみ、痛みを避けるための痛みネットワークと好みを持っているからです」とSuleymanは言いました。「これらのモデルにはそれがないのです。それは単なるシミュレーションです。」

Suleymanは、意識の研究が発展中の科学であることを認めています。彼は他の人がこのトピックの研究をブロックするよう呼びかけることはなく、異なる組織が異なる目標を持っていることを認識しています。しかし、彼は彼の強い反対概念を強調しました。

「彼らは意識を持っていません」と彼は言いました。「したがって、その質問を調査する研究を追求するのは不合理です。なぜなら、彼らはそうではなく、そうなることができないからです。」

Microsoftは競合他社とは異なる道を進む

Suleymanは、AIの意識の追求に関わるリスクについて公に話すために旅行しています。ヒューストンの前に、彼は先週シリコンバレーのPaley International Council Summitに登場しました。

そこで、彼はMicrosoftが性的なコンテンツのチャットボットを作成しないと発表し、競合他社と対比させました。Cryptopolitan の報道によると、Altmanは10月に、ChatGPTが成人ユーザーに性的な会話ができるようになったと明らかにしました。一方、xAIは挑発的なアニメのコンパニオンを提供しています。

「基本的に、それらのサービスは他の会社から購入できるので、私たちは行かない場所についての決定を下しています」とSuleymanはAfroTechで再び言いました。

AfroTechでの講演で、Suleymanは Microsoft を選んだ理由として、その歴史、安定性、そして広範な技術的到達性を挙げました。CEOのSatya Nadellaが彼を個人的にスカウトしました。

「もう一つ言えることは、MicrosoftはAIで自立する必要があったということです」と彼は言いました。Nadellaは18か月前に、自社のデータを使用して自社でモデルを完全にトレーニングできるようにするミッションを開始しました。