- エリック・シュミット氏は、AI システムがまもなく自己進化する可能性を警告し、その開発は規制なく放置すべきではないと述べています。
- AI の進展については専門家の間でも見解が分かれており、一部の人は AI が存在自体のリスクをもたらすことを懸念する一方、他の人々は汎用 AI はまだ実現可能ではないと主張しています。
- シュミット氏は米中間の AI 格差の縮小に警戒感を示し、監督体制の整備と民主的価値観の優先を訴え、米国が AI 開発競争で主導権を握るよう促しています。
元Google CEOのエリック・シュミット氏は、人工知能開発者に対し、開発の上限を制御するよう警告した。また、米国が中国との人工知能（AI）競争で勝利することの重要性も強調した。
ABCニュースの 「This Week with George Stephanopoulos」 で日曜日に発言し、シュミット氏はAIシステムが自律的に動作し、さらには自己改善する可能性について注意を促した。
“まもなく、自分たちで何をしたいかを決めて自律的に動作するコンピュータを持つことになるだろう」とシュミット氏は述べた。
シュミット氏：AIは制御されずに放置すべきではない
シュミット氏は、制御されずに発展する先進AIのリスクを再確認し、自己改善能力を持つシステムが重大な危険をもたらすと指摘した。
“システムが自己改善できる場合、それを unplugging することを真剣に考える必要がある」と元Google CEOは述べた。
ステファノポロス氏が、そのようなAIシステムがシャットダウンの試みに抵抗できるかどうかをシュミット氏に尋ねたところ、シュミット氏は「理論的には、プラグに手を置く人物を確保しておくべきだ——比喩的にね」と答えた。
懸念があるものの AIの存続的リスク への懸念が高まる中、そのような恐怖は過大評価されていると主張する専門家もいる。インペリアル・カレッジ・ロンドンの研究副総長であるニック・ジェニングス教授は、終末論的な予測を退ける一人だ。
ジェニングス 主張しています 氏は、AIが特定のタスクで卓越した能力を発揮できる一方で、多様な領域で人間のような知性を持つシステムを作成することは、現在の科学者の能力を遥かに超えていると指摘した。
“単一のタスクを非常に良く実行するAIの開発は可能だが、」とジェニングス氏は説明した。「しかし、複数の分野にわたって人間の知性を模倣する汎用AIを構築することは、近い将来に期待できることではない。」
AIの脅威に関する意見の分裂
一方、定義が不十分な目標や不十分な安全対策がもたらす危険を警告する主要なAI研究者の間では懸念が続いている。UCバークレーの教授であるスチュアート・ラッセル氏とポスドクのマイケル・コーエン氏は、強力なAIシステムが制御されなければ、最終的に人類にとって存続的脅威となり得ると主張している。
ある 「 」としてScience Journalに発表された論文で、ラッセル氏とコーエン氏はAI開発に対するより厳格な監督を呼びかけた。彼らは、テクノロジー企業がAIシステムを市場にリリースする前にその安全性を実証する必要性を強調した。明確な目標と堅牢な安全対策がなければ、先進AIシステムは人間の利益に反する行動を取る可能性がある、と彼らは論じる。
“これらのAIの目標が人間の目標と衝突する場合、それは災難を意味するかもしれない、」とラッセル氏とコーエン氏は書いた。彼らは、テクノロジー企業がシステムの安全性を確保し、AIが決して越えてはならない重要な「レッドライン」を特定する責任を負うべきだと考えている。
AIの安全性をめぐる議論の拡大
AIの急速な進歩はすでに、誤情報の拡散、社会の分極化、アルゴリズムバイアスなどの課題をもたらしている。安全性と規制への懸念は、技術の発展に追いついていない。
シュミット氏の発言は、業界リーダーたちがこれらの課題に対処する緊急性の高まりを反映している。 イーロン・マスク のような専門家は、AIのリスクを軽減するための予防的な規制を長年呼びかけてきた。
AIを「私たちが直面している文明最大のリスク」と表現したことがあるムスク氏は、 警告した 当局がその危険に対処するためにほとんど何もしていないと指摘した。同様に、物理学者のスティーブン・ホーキング氏は、シンギュラリティ、つまり機械が人間の知性を上回る点に達した場合、人類が先進AIシステムを制御できなくなる恐れがあると危惧していた。
ホーキング氏はインタビューで、規制がなければAIは「人類にとって最も良いこと、あるいは最も悪いことのいずれかになる」と主張した。
米中AI競争の激化
シュミット氏は、米国が以前は 中国よりもAI開発でリードしていたが、過去6ヶ月でその格差は大幅に縮小したと指摘した。「、過去6か月でその格差は大幅に縮小しています。"中国は驚くべき速さで追いついており、」と彼は述べ、現在の状況を2つの超大国間の高リスクなレースと表現した。
“1〜2年後には、システムが独自の研究を開始する時点が来るかもしれない。これらは「AI科学者」と呼ばれ、人間の科学者とは対照的だ。つまり、1,000人の人間科学者から100万人のAI科学者へと移行する。これは傾斜を急にする我认为、このペースで移動している場合、競合他社が追いつくのは非常に難しい、」と彼は remark した。
シュミット氏は、次期 トランプ政権 がAIにおける米国の競争力を優先すると信じており、これを肯定的なステップと見なしている。「人間の価値が保持される限り、」彼は言った、「私たちは大丈夫だろう。」
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
Florence Muchai
フローレンスは過去6年間、暗号資産、ゲーム、テクノロジー、AIに関するニュースを報道してきました。メルウ科学技術大学でのコンピュータ学およびMMUSTでの災害管理と国際外交の学習により、言語能力、観察力、技術スキルを十分に備えています。フローレンスはVAPグループで勤務し、複数の暗号資産メディアハウスで編集者として活躍しました。
