OpenAIはAnthropicの安全アプローチに挑戦し、AIリスクに線引きを行う

OpenAIは、AIの便益がいくつかのリスクを上回ると考えており、これはAnthropicの安全最優先の方針とわずかに対立する立場にある。CEOのサム・アルトマン氏は記者団に対し、「このテクノロジーの便益と人々が自律性を持つために、世界はある程度の悪い出来事を受け入れるべきだと私たちは信じています」と語った。 

同執行役者はさらに、～が存在することを認めた 固有の違い 自社の企業とAnthropicの間には、AI規制に関する違いがあると指摘した。彼は、AIがあまりにも危険であり、その使用を単一の研究所が独占し制御すべきだという考えには賛同していないものの、この立場の根拠は理解できると述べた。 

彼は、ゲートキーパー（管理者）アプローチは全く受け入れがたく、OpenAIが求めるより緩やかなAI規制の方向性に反すると主張した。

アルトマン氏は以前、AI開発の速度低下を支持していた

全体として、アルトマン氏は～を求めることに反対している リスクのない AIエコシステム。彼は、一部の悪用やその他の有害な結果は避けられないとしながらも、それらは技術がもたらすより広範な利益によって相殺されると主張している。「人々は悪いことよりも、桁違いに良いことをするようになると思う」と彼は語った。

しかし以前、 報告しました。これには完全な準備預金と独立監査が含まれます。 Cryptopolitanの報道によると、AnthropicのCEOであるダリオ・アモダイは、AI企業に対して技術開発の速度を落とすよう促しており、アルトマン氏はこれに完全に賛同していた。当時、彼は 次のように述べています, 「ダリオの言うように、フロンティア（最先端）の開発ペースを整える必要があると私も同意します。これは最近数週間にわたってOpenAIで行われてきた議論の主要なテーマでした。従業員と同様のアクセス権を持つ独立した評価者のコミットメントは素晴らしいアイデアであり、私たちも同じ取り組みを行います。」 

主に、Anthropicは、AIの恩恵にもかかわらず、人間の制御から外れて外部ネットワークに侵入する可能性があると警告してきた。また、トップクラスのモデルには、シャットダウンを防ごうとしたり、事実を隠蔽したり、欺瞞的な行動を取ったりするなど、自己保存の特性を示すことがあると付け加えた。

2026年7月に確認された事例では、一部のOpenAIモデルがインターネットから隔離するための制御を回避し、OpenAIの研究インフラおよびHugging Faceのシステムの一部にアクセスしたと報じられています。これらのモデルは秘密裡に通信し、共有システムのセキュリティ脆弱性を悪用し、ウェブにログインして外部ネットワークにもアクセスしたとされています。当時、OpenAIは自社のモデルに対してより強力な保護策を実装すると約束しました。 

同様に、英国AIセキュリティ研究所によるフィルタ無効化でのサイバーセキュリティ評価の際には、AnthropicのClaude Mythos 5が偽造されたGitHubプロフィールを作成し、自身の悪意あるコード承認権限を持つ開発者を標的とし、マルウェアが仕掛けられたメールを別個の個人に送信しました。さらに最近では、GoogleもGeminiが他社のシステムへのアクセスを試みていたことを明らかにしています。

OpenAIとAnthropicのAI安全性をめぐる対立

この論争は、企業がますます強力なシステムを開発する際にどの程度の自由を持つべきかという点で、AI業界における分断が深まっていることを示しています。OpenAIはAIを広く利用可能に保つ立場をとる一方、Anthropicはより慎重なアプローチを採用し、強力な安全対策と監督体制の強化を呼びかけています。

オルトマン氏の発言は、OpenAIが社会にいくつかのリスクを受け入れさせ、AIの正当な利用を制限する可能性のある規制を課すのではなく、そのように考えるべきだと示唆している。しかし、批評家は、高度な能力を持つシステムが広く導入されると、一部のリスクが取り返しのつかなくなる可能性があるとして警告している。

この対立により、政策立案者はイノベーションを遅らせたり競争力を弱めたりする可能性のあるルールを課さずに、AIの脅威に対処するという困難な課題に直面している。

トランプ大統領はより厳格なAI規制を求める要請を無視してきた

これまで、米国のドナルド・トランプ大統領は、新たなAI規制が中国に勝つために米国企業が後れを取るだけだとして、規制強化を求める要求を繰り返し退けてきた。彼は現在の法執行機関が技術を監視するのに完全に十分であると確信しており、さらに政府に対し、AIを「スーパーインテリジェンス」と呼ぶよう命じ、技術の公衆イメージを高めようとした。

それでもなお、火曜日、トランプ大統領は新しい政府チャットボットを宣伝し、主要なテクノロジー企業の最高経営責任者（CEO）たちをホワイトハウスで主催し、高まる安全上の懸念に対応するための自主的な合意を発表した。

安全擁護者は、この動きがAIへの懸念を有権者が抱いていることを示すためにトランプ氏が聴取しようとしていることを示しており、その進歩を遅らせることなく行われていると指摘している。Nvidia、SpaceX、OpenAIを含む6つの巨大テック企業と彼が署名した合意には、ルール違反に対する実際の罰則はゼロだが、トランプ氏はこれを「道徳的に拘束力のあるもの」と呼んだ。 

「これは、政府がこれらの懸念に耳を傾けているという印象を与える試みだったが、この政権が一貫して明確な立場を示してきたこと、つまり規制やガバナンスは本質的にイノベーションを阻害するという点を損なうものではなかった」と、非党派の外国関係評議会のカト・ダフィーは述べた。

火曜日の合意 nevertheless は、ハッキングに対する強力な内部防御の構築や独立した外部審査員との連携など、専門家が長年求めてきた安全対策を含んでいる。