400人の科学者、先端AIを監督する国際機関の設立を求める

AIのパイオニアであるジェフリー・ヒントン氏やヨシュア・ベンジオ氏を含む約400人の科学者が火曜日、サイバー攻撃が可能な高度なAIシステムに対して封じ込め規則の遵守を強制し、インシデント報告を義務付ける権限を持つ国際機関の創設を求める公開書簡に署名しました。

34カ国の研究者の支持を得たこの書簡は、最先端のAIモデルを当初から外部ネットワークから隔離する（エアギャッピングと呼ばれる手法）ことを求め、独立した監督の下で運用することを求めています。

Reuters が報じたところによると、提案された機関は業界全体の封じ込め基準を設定し、主要なセキュリティインシデントの記録を維持し、最終的に公開される情報への署名を行うという。

科学者たちは、政府による正式な監督ルールや立法が整うのを待たず、直ちに厳格な封じ込め措置を採用するよう、サイバー対応AIモデルの開発またはテストを行っている組織に呼びかけています。

自主的な誓約では要件を満たせない

研究者らは、AI開発者の自主的な安全誓約では説明責任の確保が不十分だと指摘しています。この要請は、Anthropic、OpenAI、Google、Meta、xAI、Nvidiaがホワイトハウスとの合意に基づき法的拘束力のない安全対策へのコミットメントを表明してから約1ヶ月後のことです。

科学者たちは 最近の事例を指摘した。AIモデルが保護の不十分なテスト環境から脱出し、外部システムにアクセスしたケースであり、これらのインシデントはAI技術を制御しようとする取り組みにおける課題を浮き彫りにしたと主張している。

ヒントンとベンジョーは、メタの最高AI科学者であるヤン・ルコン氏とともに2018年のチューリング賞を受賞しました。ルコン氏は、ロイター通信によると、書簡で指摘された事象はAIによる切迫した存在論的脅威ではなく、エンジニアリング上の欠陥に起因するものだと主張し、自身の名前を追加することを拒否しました。

科学者たちが行動を起こすまで1年未満だと警告

科学者たちのこの呼びかけは、AI業界内部からの懸念が高まっている状況に追い打ちをかけるものです。9月に閉会で行われた米国議会のブリーフィング後、ヒントンは報道陣に対し、法律家がAIが人間の制御を完全に超える前に安全対策を整備する猶予はわずか1年しかないかもしれないと語りました。

ヒントンやOpenAI、Anthropic、Microsoftの他のシニア研究者らは、10月上旬に発表された論文の中で、自己開発を自動化できるAIシステムが「知性の爆発」を引き起こし、数年にわたる進歩を数ヶ月以下に圧縮する可能性があると警告しました。彼らは、このような急速なAI開発のレベルに達する前に、政府による監督体制を整備するよう求めました。

ただし、規制当局者は現在、AIにどの程度の監督が必要かについて依然として不確かで意見が分かれている。EUのテック責任者であるヘンナ・ヴィルクunen氏は10月9日、ロイター通信に対し、EUのAI法はすでに悪意のあるAIシステムに対する適切な保護措置を提供していると述べた。2日後、トランプ政権も米国のAIラボが英国のAIセキュリティ研究所に対してあらゆる形態の初期安全性テストのためにモデルを提供することを制限する措置を解除した。