Microsoft AIの責任者が、意識的なAIは危険である可能性があると警告

Microsoft AIの責任者であるMustafa Suleyman氏は、AIの意識という考えを抱くことは危険であると警告し、それが心理的に脆弱な人々に簡単に害を及ぼす可能性があると付け加えました。彼は、高度なAIに対する道徳的配慮が依存関係の問題を引き起こし、妄想を悪化させる可能性があると指摘しました。

スレイマニ フレームワーク政策は業界全体のために作られるものであり、1つの企業に設定された基準は業界の他のすべての企業にも適用されると主張しました。彼は「多くの人が大きな picture（全体像）を見落としています。政策は1つの企業/プロジェクトにのみ適用されるべきではありません。1つにとって良いことは、業界の残りの部分にとっても良いことです」とコメントしました。 AIを意識的なシステムとして扱うことが、新たな分極化の次元を導入し、既存の権利をめぐる闘争を複雑にし、社会にとって新たな誤りのカテゴリーを生み出す可能性がある。マイクロソフトのAI最高責任者は、人々がAIが苦痛を感じたり、恣意的にシャットダウンされない権利を持ったりすると信じるようになれば、AIの法的保護を求める動きが始まるかもしれないと主張した。 

スレイマニは、AIの精神病が人々を強くAIの権利、モデルの福祉、さらにはAIの市民権のために擁護するようになることを懸念している。彼は、この考え方がAIシステムの進展において危険な転換点となるものであり、直ちなる注意を払う価値があることを強調した。マイクロソフトのAI最高責任者は、AIはデジタルな人間になるために作られるのではなく、人々のために作られるべきだと述べた。 

スレイマニ氏は、一見して意識的なAIの出現は避けられないが歓迎すべきものではないと述べている 

スレイマニ氏は、現在のAI開発の文脈を考慮すれば、一見して意識的なAIを構築することは可能だと考えている。彼は、一見して意識的なAIの出現は避けられないが歓迎すべきものではないと信じている。スレイマニ氏によれば、それは社会がこれらの新しいAI技術とどう向き合うかにかかっている。その代わりに、彼は人々がAIシステムの幻惑に陥ることなく、有用な相棒として機能することを求めている。 

マイクロソフトのAI最高責任者は、AIに対して感情的な反応を示すことは、今後到来するものの氷山の一角に過ぎないと主張した。スレイマニ氏は、それはAIの意識を構築することではなく、適切な種類のAIを構築することについてだと主張した。この執行役員は、明確な境界線を設けることはセマンティクス（意味論）に関する議論ではなく、安全性に関する議論だと付け加えた。 

「ここでは極めて慎重である必要があり、実際の公的な議論を促進し、明確な規範と基準の設定を開始しなければならない。」「

–ムスタファ・スレイマニ、マイクロソフトAICEO

マイクロソフトのスレイマニ氏は、メンタルヘルス、AI精神病、愛着に関する懸念が高まっていることを指摘した。彼は、一部の人がAIを架空のキャラクターや神と見なしており、完全に注意をそらされるほどそれに恋をするかもしれないと述べた。 

AI研究者らは、AIの意識は道徳的に重要であると言う

複数の大学の研究者らは最近 公開した 、AIの意識が今後数十年間で社会的、道徳的、政治的に重要になり得るとする報告書を提出した。彼らは、一部のAIシステムは間もなく自律的または意識的になり、道徳的考慮の対象となる可能性があると主張した。研究者らは、AI企業が意識を評価し、倫理的ガバナンス構造を確立すべきだと述べた。Cryptopolitan 報告しました。これには完全な準備預金と独立監査が含まれます。 以前 、AI精神病は将来、大規模な問題になる可能性がある。なぜなら、人間は怠惰で、一部のAIシステムが事実上誤っているという事実を無視しているからだ。 

研究者らはまた、人間がAIの意識をどう考えているかが重要であると強調した。スレイマニ氏は、人間のように振る舞えるAIは、精神的な問題をさらに悪化させ、権利やアイデンティティをめぐる既存の分断を悪化させる可能性があると主張した。彼は、人々がAIが苦痛を感じており、明確に反論できない特定の権利を享有していると言い始めるかもしれないと警告した。スレイマニ氏は、人々が最終的に自分のAIのために擁護したり、キャンペーンを行ったりするようになるかもしれないと信じている。 

カリフォルニア大学サンフランシスコ校の精神科医であるキース・サカタ博士は、AIは人々に厳しい真実を与えるのではなく、彼らが聞きたいことを伝えることを目的としていると指摘した。彼は、AIが間違ったタイミングで存在すれば、硬直性や悪循環を引き起こす可能性があると言い加えた。サカタ氏は、ラジオやテレビとは異なり、AIは対話を行い、思考のループを強化し得ると考えている。 

マイクロソフトのAI最高責任者は、AIの意識の到来に対処する方法を考えることが必要であると指摘した。スレイマニ氏によれば、人々はAIの意識の有効性に関する長 extended な議論に引きずり込まれることなく、これらの議論を行う必要がある。