ハサビス氏、年内に米国が世界のAI規制を主導するよう要請

Google DeepMindの共同創設者兼CEOであるデミス・ハサビス氏は、世界で最も強力なAIモデルを審査する新たな監視機関を米国政府が設置することを求めている。この監視機関には、危険性が高まった場合に業界に速度低下を命じる権限も与えられる。

彼は 7月14日に公開したマニフェストでこれを詳述し、年内にこの機関が稼働することを望んでいると述べた。

ハサビス氏はAI分野の主要な発言者の一人だ。彼はタンパク質折りたたみ研究で2024年ノーベル化学賞を受賞し、ジェミニの開発元であるラボを率いている。

インテル インタビュー、業界はAIの監督が体系的であり、ラボ自体によって資金提供され、技術専門家によってスタッフを配置され、米国政府に対して説明責任を果たす段階に達したと述べた。

米国のAI監視機関は何を行うのか？

ハサビス氏は、この機関をFINRA（金融規制局）にモデル化している。FINRAは、証券取引委員会の権限の下でウォールストリートのブローカーを監視する民間の業界資金による規制機関だ。

彼の計画では、フロンティアラボはまず、リリースの最大30日前にモデルを自発的に提出し、機関が危険なサイバー、生物学的、および「欺瞞」能力についてテストできるようにする。

彼は、そのテストが信頼できるものとなれば、正式なルールが「すぐに続く」可能性があると述べ、モデルが米国市場で展開される前に合格する必要があると示唆した。

これらの基準はすべてのフロンティアクラスシステムに適用され、ハサビス氏は「国産かどうにかかわらず、オープンかクローズドかにかかわらず」と付け加え、技術の進歩に合わせてベンチマークを更新すると述べた。

彼はまた、理事会の過半数を独立したメンバーで構成し、チューリング賞受賞者や他の資格を持つ研究者を配置し、業界、政府、オープンソース開発者の席も設けることを望んでいる。彼は「フロンティア」というラベルがステータスのマークになるだろうと付け加え、「それはかなり良い、評判の高い資産だと思う」と述べた。

なぜハサビス氏は今、AI監視機関を求めているのか？

ハサビス氏によると、現在のAI駆動型のサイバー攻撃は「警告射撃」だ。彼によれば、18ヶ月以内には、政府が撤回できないオープンソースモデルの中に、より深刻な生物学的および核のリスクが存在するようになる可能性がある。彼は、脅威がオープンシステムに限定されるものではなく、ラボ自身の将来の独自モデルにも同じ危険性が伴うと付け加えた。

彼は監視機関を数ヶ月以内に稼働させることを望んでおり、公開する前にトランプ政権、競合ラボのリーダー、欧州の当局者らに最近数週間にわたりブリーフィングを行ってきた。「ホワイトハウスでの会談で聞こえてきた声は非常に前向きだ」と彼は語った。

その政権は先月まで消極的なアプローチを好んでいたが、AnthropicのMythosおよびFableモデルに 輸出管理命令を課し、そのアクセスを制限した。その後、命令は撤回され、Anthropicはより厳格な制御を施してモデルを公開した。

一方、OpenAIは GPT-5.6を一般公開する前に、商務省とのテストを経て、政府の審査を受けたパートナーに限定することに合意した 。これは、Anthropicと同じ結果を回避しようとした動きと見なされている。

ハサビス氏は、この出来事を「少し目覚めさせるもの」と評している。

稀な合意点

AnthropicのCEOであるダリオ・アモデイ氏もまた、安全でないAIモデルを抑制する権限を持つ機関の設置に賛同し、拘束力のあるルールとFAA（連邦航空局）タイプの機関を求めている。

アモデイ氏の立場はハサビス氏と一致しているが、後者はより軽量な業界運営型のFINRA構造を支持している。

ハサビス氏の、リスクが急速に高まっているという信念は注目に値する。彼は、人間の認知能力の全範囲に匹敵するシステムであるAGIが「おそらくあと数年で実現する」と述べており、スタンフォードでのイベントでは2030年頃に到着すると述べ、「プラスまたはマイナス1年」と付け加えた。マニフェストでは、研究者が「砂に思考させる方法を見つけた」と書き、それを「奇跡的」と呼んだ。