元Google CEOシュミット氏、特定の能力を持つAIシステムの「電源を切る」ことを推奨

元Google CEOのエリック・シュミット氏は、人工知能（AI）開発者に対し、開発の限界をコントロールするよう警告した。また、中国との人工知能（AI）競争において、米国が勝利することの重要性を強調した。.

ABCニュースの 番組「ディス・ウィーク・ウィズ・ジョージ・ステファノプロス 可能性について警告したdent的に動作し、さらには自己改善する 

「まもなく、コンピューターが自律的に動作し、何をしたいかを自分で判断できるようになるだろう」とシュミット氏は述べた。

シュミット氏：AIは放置されるべきではない

シュミット氏は、高度なAIが野放しで発展するリスクを改めて強調し、自己改善が可能なシステムは重大な危険をもたらすと指摘した。. 

「システムが自己改善できるようになったら、そのシステムをシャットダウンすることを真剣に検討する必要がある」と、元グーグルCEOは述べた。

ステファノプロス氏がシュミット氏に、そのような AI システムはシステムを停止させようとする動きに対抗できるのかと尋ねると、シュミット氏は「そうですね、理論的には、比喩的に言えば、誰かがプラグに手をかけておいたほうがいいでしょう」と答えた。

AIの存亡に関わるリスクへの懸念が高まる一方で、一部の専門家はこうした懸念は誇張されていると主張している。インペリアル・カレッジ・ロンドンの研究担当副学長であるニック・ジェニングス教授も、終末論的な予測を否定する一人だ。

ジェニングス氏 主張して いる。

「単一のタスクを非常に高いレベルでこなすAIの開発は可能です」とジェニングス氏は説明した。「しかし、複数の分野にわたって人間の知能を模倣する汎用AIを構築することは、近い将来には期待できないでしょう。」

AIの脅威に関する意見の相違

一方、AI研究の第一人者たちは、目的の明確化が defiであることや安全対策が不十分であることによる危険性を懸念し続けています。カリフォルニア大学バークレー校のスチュアート・ラッセル教授とポスドク研究員のマイケル・コーエン氏は、強力なAIシステムは、制御されないまま放置された場合、最終的には人類の存亡に関わる脅威となる可能性があると主張しています。.

サイエンスジャーナルに掲載された洞察論文の中で 、ラッセル氏とコーエン氏はAI開発に対するより厳格な監督を求めました。彼らは、テクノロジー企業がAIシステムを市場に投入する前に、その安全性を証明する必要性を強調しました。明確な目的と強固な安全対策がなければ、高度なAIシステムは人類の利益に反する行動をとる可能性があると彼らは主張しています。

「これらのAIの目的が人間の目的と衝突する場合、大惨事を招く可能性がある責任を負うべきだと考えているdent。

AIの安全性に関する議論の高まり

AIの急速な進歩は、偽情報の拡散、社会の分極化、アルゴリズムの偏りといった課題を既に生み出しています。安全性と規制に関する懸念は、技術の発展にまだ追いついていません。.

シュミット氏の発言は、業界リーダーの間でこうした課題への対応がますます喫緊の課題となっていることを反映している。 イーロン・マスク氏 、AIのリスクを軽減するための予防的な規制を長年提唱してきた。 

かつてAIを「人類文明が直面する最大の脅威」と表現したマスク氏は、 警告した 。同様に、物理学者のスティーブン・ホーキング博士は、機械が人間の知能を超える特異点に到達すれば、人類は高度なAIシステムを制御できなくなる可能性があると懸念していた。 

インタビューの中でホーキング氏は、規制がなければAIは「人類にとって最善のことにも最悪のことにもなり得る」と主張した。

米中AI競争が激化

をリードしていたものの AI開発において中国、過去6か月間でその差は著しく縮まったと指摘した。「中国は驚くべき速さで追いついてきた」と述べ、現在の状況を2つの超大国間の熾烈な競争だと表現した。

「おそらく今後1、2年のうちに、システムが自ら研究を始める時期が来るでしょう。彼らは人間の科学者とは対照的に、AI科学者と呼ばれます。つまり、人間の科学者が1,000人からAI科学者が100万人になるということです。これは成長のペースを加速させると思いますし、このペースで進むと、競合他社が追いつくのは非常に困難になるでしょう」と彼は述べた。

シュミット氏は、次期 トランプ政権が AI分野における米国の競争力を最優先事項とするだろうと考えており、これは前向きな一歩だと捉えている。「人間の価値観が守られる限り、我々は大丈夫だろう」と彼は述べた。