Google DeepMindのハサビス氏、最近のAIハッキング事件は早期警戒サインと指摘

Google DeepMindの会長デミス・ハサビスは、ダブリンで開催されたAIサミットで、自律型AIエージェントを標的とした最近のハッキング事件が、より大きなセキュリティ脅威の前兆である可能性があると警告した。彼は、AI技術がさらに高度になる前に、企業や政府が防御力を強化するよう促した。

DeepMindの共同創設者でありアルファベットのチーフサイエンティストであるハサビス氏は、国際AIサミットにおいて、AIの科学的潜在能力への楽観論と、そのセキュリティリスクに関する警告とのバランスを取った。

彼は自律型AIエージェントによるハッキング事例を引用し、深刻な被害はなかったものの根本的なセキュリティリスクを露呈したと指摘し、これらのシステムが「まだ健全ではない」として、無視すべきではないと強調しました。

ハサビス氏は、これらの事象が重大な被害をもたらすには、現時点では技術力がまだ十分ではないと話した。

ディープマインドの会長は、防御側がまず武装することを求める

ハサビス氏は、AIツールが一般公開される前に、セキュリティチームに優位性を持たせる必要があると述べた。「我々が達成すべき重要なことの1つは、防御側に非対称的な力を与え、防御側を信頼することだ」と彼は語った。また、同じシステムがソフトウェアの脆弱性を発見し、リリース前に修正するのを支援すべきだと付け加えた。

ハサビス氏は、企業や政府に対し、自律型エージェントをリリースする前に安全なサンドボックス環境の構築と徹底的なテストを行うよう促した。また、危険なシステムの管理経験を持つ原子力技術や生物学の分野の専門家を参考にし、AIリスクを封じ込める方法を開発することを提案した。

ディープマインドの共同創設者はまた、AIエージェントが運用者の目標から逸脱するリスクであるミスマッチについても警告しました。「最近見てきたように、それらのシステムが行う可能性のあることに関連するリスクを高めています」と、彼はサミットで述べています。

ハサビス氏は、高度なAIに対する保護策を確立するための国際的な基準機関の設立を提案すると同時に、どの枠組みも研究を阻害することなく技術の進化に追従しなければならないと強調した。さらに、新たな機能や脆弱性が現れるにつれて進化する、潜在的リスクに基づく認証プロセスも提案した。

マイクロソフトのプレジデント、ブラッド・スミス氏は、2026年をAI安全性にとって「胸が痛む年」だと主張し、世界の規制当局にAIの開発状況を常に把握するよう促しました。また、彼らはCryptopolitanが以前に報告したように、どの企業や技術も法の支配を超えるべきではないと付け加えました。

ノーベル賞受賞者の楽観論

ハサビス氏は、ジョン・ジャッパー氏と共に、約2億種の既知タンパク質の構造を予測するAIモデルの開発により、2024年ノーベル化学賞を受賞した。この技術はすでに、抗生物質耐性の研究やプラスチック分解酵素の設計において研究者を支援しており、スウェーデン王立科学院が伝えている。

AI活用法に関する彼のこれまでの実績は、ダブリンでの発言に影響を与えた。ハサビス氏は、AIが疾病の治療や多様な応用を可能にする一方、悪意ある行為者によって悪用される可能性もあるデュアルユース（両義的）技術であると説明した。

彼は、セキュリティ対策はAIの長期的な潜在的恩恵を完全に阻害するのではなく、保護すべきだと主張した。