Gemini報告書を受け、GoogleのAI安全への約束が審査の対象に

Googleは、主力人工知能モデルであるGemini 2.5 Proに関する安全論文を公開しました。専門家は、主要なリスクが説明されていないと指摘しています。

同社は木曜日、技術的な論文を公開しました。これは、Gemini 2.5 Proを顧客にリリースしてから数週間後のことです。この文書には、Googleがモデルに対して実施した内部テストが記載されていますが、システムが過負荷や誤用された場合にどのように振る舞うかについての事実はほとんど提供されていません。論文をレビューした研究者たちは、TechCrunchに対し、欠落している詳細により、Gemini 2.5 Proが広範な使用に本当に安全かどうかを判断するのが難しいと語りました。

技術報告書は、高度なAIシステムが何を行い、何を行えないかを一般市民が学ぶ主な方法の一つです。徹底的な報告書は、モデルがどこで失敗し、どこで悪用される可能性があるかを示すことがよくあります。多くのAI研究者は、これらの論文を、企業の安全主張を裏付ける誠実な取り組みと見なしています。

Googleは安全報告の方法を異なっています。

Googleは、モデルが「実験的」というタグを外された後にのみ報告書を公開し、特定の「危険な機能」に関する発見を、直ちに公開されない別の監査に移します。その結果、公開された論文は、Googleがテストしたすべての脅威をカバーしていません。

複数のアナリストは、新しいGemini 2.5 Proの文書が限られた開示の顕著な例であると指摘しました。また、彼らは報告書が、昨年発表された、将来のAIの力が「甚大な害」を引き起こす可能性を特定する政策であるGoogleのフロンティア・セーフティ・フレームワーク（FSF）に言及していないことにも気づきました。

「この報告書は非常に簡素で、最小限の情報しか含まれておらず、モデルが公開されてから数週間後に届きました」と、AI政策・戦略研究所の共同創設者であるピーター・ウィルデフォードは語りました。「Googleが自らの約束を満たしているかどうかを確認することは不可能であり、したがって、そのモデルの安全性とセキュリティを判断することも不可能です。」

Secure AI Projectの共同創設者であるトーマス・ウッドサイドは、何らかの論文が公開されたこと自体は喜ばしいと考えていますが、Googleが定期的なフォローアップを公開する計画については懐疑的です。彼は、同社が危険な機能テストの結果を共有したのは2024年6月が最後であり、その論文は同年2月に発表されたモデルをカバーしていたことを指摘しました。

観測者が、先週Googleが発表した、より軽量で高速なモデルであるGemini 2.5 Flashに関する安全論文を見なかったことで、信頼はさらに低下しました。同社の spokesperson は、Flashの論文は「まもなく公開される」と述べました。

「これが、より頻繁な更新を開始するという本当の約束であることを願っています」とウッドサイドは語りました。「これらの更新には、まだ一般に公開されていないモデルの結果を含めるべきです。なぜなら、それらのモデルも深刻なリスクをもたらす可能性があるからです。」

Googleは透明性において不足しています

Metaの新しいLlama 4モデル向けの安全ノートは数ページしかなく、OpenAIはGPT‑4.1シリーズについて報告書を一切公開しませんでした。

詳細の不足は、緊張が高まる時期に起こっています。2年前、Googleは米国政府に対し、範囲内の「重要」なAIモデルごとに安全論文を公開すると約束しました。同社は他の国の当局者にも同様の誓約を行い、AI製品について「公的な透明性」を提供すると述べていました。

Center for Democracy and TechnologyのAIガバナンス上級アドバイザーであるケビン・バンクストンは、主要なラボからの公開を、安全面での「底辺への競争」と呼びました。

「OpenAIなどの競合ラボが、リリース前に安全テストの期間を数ヶ月から数日に短縮したという報告と合わせると、Googleの主力モデルに対するこの貧弱な文書は、企業がモデルを市場に急ぐ中で、AIの安全と透明性における底辺への競争の恐ろしい物語を語っています」と彼は付け加えました。

Googleは、安全作業の大部分が閉鎖された環境で行われていると述べています。同社は、すべてのモデルが公衆に公開される前に、「敵対的なレッドチーム演習」を含む厳格なテストを受けると述べています。