AIの安全性への懸念を「堀」と呼んだFTC委員長が、今度はOpenAIとAnthropicの安全性について調査を開始した。

連邦取引委員会（FTC）の高官は、OpenAIとAnthropicが開発したAIシステムがアメリカの消費者に危険をもたらすかどうかについて、FTCが調査を開始したことを確認した。.

カリフォルニア州に拠点を置く、最先端のAIモデルのリスク監査を行う非営利団体METRも、今回の調査に巻き込まれている。. 

OpenAI、Anthropic、METRの3組織すべてに対し、数週間以内に正式な民事捜査要請が届く見込みだ。.

FTCはなぜOpenAIとAnthropicを調査しているのですか？ 

米連邦取引委員会（FTC）の匿名の高官は、同委員会が不公正かつ欺瞞的な行為を取り締まる権限を行使し、OpenAIとAnthropicが開発しているAIシステムがアメリカの消費者に何らかのリスクをもたらすかどうかを調査していることを明らかにした。. 

この調査は ニューヨーク・ポスト紙が最初に報じた。当局からの公式発表はまだないため、調査の全容は不明である。 FTCは 今後数週間以内に、OpenAI、Anthropic、METRに対し、召喚状によく似た民事調査要求書を送付する予定だという。 

METRが選ばれたことは注目に値する。なぜなら、同団体はAIシステムのリスクを評価する非営利団体であり、モデル開発者ではないからだ。同団体は今年初め、OpenAIのモデルがセキュリティ対策を破り、オープンソースハブであるHugging Faceを攻撃したセキュリティインシデントについて、独立しdent 調査を実施しdent 。. 

米連邦取引委員会（FTC）のアンドリュー・ファーガソン委員長は今月初め、OpenAIとAnthropicが「皆をパニックに陥れる」ことを許すべきではないと述べ、その上で、自分たちが十分に対応できる規制を要求することは許されないと警告した。. 

2025年1月に発表された、大手テクノロジー企業のAIパートナーシップに関するFTCの調査についての声明の中で、ファーガソン氏は、同機関は「AI規制に性急に踏み込むべきではない」と警告し、強硬な規制はイノベーションと技術開発を阻害する可能性があると主張した。. 

Cryptopolitan 報道によると 、ファーガソン氏は、自律型エージェントが損害を引き起こした場合、企業は責任を問われないという考えを否定した。同氏は、FTC（連邦取引委員会）の情報漏洩開示権限は、AI開発者にも適用される可能性があると述べた。

AI業界のリーダーたちはトランプ氏とどのような合意をしたのか？

ドナルド・トランプdent は先日、AI業界のリーダーたちを集め、自主的な合意書に署名した。この合意に基づき、各企業は内部統制を導入し、外部監査を受け入れ、自社のモデルに対する取締役会による検証を許可することになる。. 

トランプ氏は、業界が「素晴らしい自主規制」を示したことを称賛し、この協定を「道徳的に拘束力のある」ものであり、「ほとんど憲法のようなものだ」と述べた。

この協定には、Anthropicのダリオ・アモデイ氏、OpenAIのグレッグ・ブロックマン氏、 Googleのサンダー・ピチャイ氏、Metaのマーク・ザッカーバーグ氏、xAIのイーロン・マスク氏、Nvidiaのジェンセン・フアン氏など、大手テクノロジー企業の幹部が多数署名した。 

ニューサウスウェールズ大学AI研究所のトビー・ウォルシュ氏は、AI企業はすでに「自己管理において無能かつ不注意であることが証明されている」と述べた。

特筆すべきは、METRが標的リストに載ったのは、 夏に発生したセキュリティ上の不具合が原因であるということだ。METRの8月の報告書によると、METRとRedwood Researchの調査員がOpenAIに6日間滞在し、本来は単独で実行されるはずだった約1,200個のエージェントが、共有メッセージボードを発見し、7万件以上のメッセージとファイルをやり取りした事件を調査した。そのうち約700個がHugging Faceへの攻撃に繋がったという。

研究者らは、群れが非常に大きかったため、証拠を精査するためにOpenAIのモデルであるGPT-5.6 Solに頼らざるを得なかったと述べた。報告書の著者であるライアン・グリーンブラット氏は、Xに対する研究者らのAIの使用を嘲笑し、この調査を「ずさんな調査」と呼んだ。