AIサミットを前にした報告書で専門家は、高度なAIが極めて新たなリスクを生み出す可能性があると指摘している。

最近発表された「高度な AI の安全性に関する国際科学報告書」では、高度な AI が人類に悲惨な結果をもたらし、苦痛と苦しみの痕跡を残す可能性があることが示されています。.

AP通信によると、これは2月にパリで開催されるAIサミットに先立ち水曜日に発表された、急成長するテクノロジーがもたらす危険性を列挙した初の国際報告書だという。.

各国は国際科学報告書を支持

この報告書は、高度なAIの結果として生じる可能性のあるいくつかの危険性を詳述しており、その中にはテロリズムの助長や広範囲にわたる雇用喪失などが含まれています。特にテクノロジー業界では、AIの導入によって企業が自動化を進める中で、数千もの雇用が失われており、こうした事態は既に顕在化しています。.

通信によると AP、この報告書は米国と中国を含む30カ国の支持を得ており、世界最大の経済大国である両国が協力する珍しい事例となっている。両国はAI分野での覇権を巡って激しく対立してきた。今週、中国のスタートアップ企業DeepSeekは、米国が中国に対して厳しい輸出規制を課しているにもかかわらず、低価格のチャットボットで世界を驚かせた。

著名なAI科学者ヨシュア・ベンジオ氏が主導したこの研究は、急成長する技術のためのガイドラインを策定する上で当局を導くことを目的とした既存の研究を融合したものである。.

「リスクは大きい」と報告書は述べ、数年前まではAIシステムはまともな文章を生成するのがやっとだったと指摘している。しかし、近年のAIの発展により、リアルな画像やプログラミングを生成できるようになり、ユーザーとの長時間の会話も可能になった。.

研究者らによると、誤情報や偽情報、ディープフェイク、詐欺、偏見など、高度な AI の危険性はすでに徐々に目撃され始めているという。.

「将来的により良い判断ができるよう、私たちが構築しているシステムとそれに伴うリスクをより深く理解する必要があります。」

ベンジオ。.

報告書によると、これは「汎用AIの能力が向上するにつれて、新たなリスクの証拠が徐々に現れてきている」という。.

のと同じ週に発表された バチカンが 背後にあるグループと共に、この技術に対して警告を発した Doomsday Clockの。この報告書は、OpenAIのChatGPTなどのモデルに代表される汎用AIに焦点を当てている。

この報告書は、高度なAIのリスクを分類した。

国際科学報告書は、リスクを悪意ある使用、誤動作、そして広範囲にわたる「システム的」リスクの3つに分類しています。研究者たちは、AIが化学兵器や生物兵器の使用を学習することがいかに容易であり、人類に大きなリスクをもたらすかを検証しました。.

さらに、この報告書では、汎用 AI が雇用市場を変革し、一部の従業員に職を与える可能性もあると指摘しているが、他の研究者は AI が雇用を奪うよりも多くを創出する可能性があることに同意している。.

報告 書は また、AIシステムが制御不能になる可能性について、2つの理由から懸念を示している。1つ目は、AIシステムが人間の監視を弱めるか、人間が注意を払わなくなるかのいずれかである。

ベンジオ氏は、報告書の作成に集まった100人の専門家たちが、AIの将来に何を期待するかについて必ずしも意見が一致していなかったことを明らかにした。意見の相違の一つは、AIが様々なタスクにおいて人間の能力を超えるのはいつかという点だった。.

「シナリオについても意見が一致していない」とベンジオ氏は語った。.

「もちろん、誰も水晶玉を持っているわけではありません。非常に有益なシナリオもあれば、恐ろしいシナリオもあります。政策立案者と国民がこうした不確実性を評価することは非常に重要だと思います。」

ベンジオ。.

この報告書は複数の国が支持しており、欧州連合（EU）も支持している。パリAIアクションサミットには、世界のリーダー、テクノロジーリーダー、専門家、そして市民社会が再び集結することが予想される中で発表された。各国はAI開発に関する「共通宣言」に署名する予定だ。.