OpenAI、米中対立の温存の中、グローバルなAI安全枠組みを提唱

OpenAIは、AIは原子力エネルギーと同じ規制を必要としており、米国がそれを扱うためのグローバルな規制機関の創設を開始することを望んでいます。 

Cryptopolitanの報道によると、これはトランプ大統領が9年ぶりの米中首脳会談のために北京を訪問し、その際にAI政策が議題に含まれると見られていた時期のことです。

OpenAIのグローバルアフェアーズ担当副社長であるChris Lehane氏によると、トランプ氏とXi氏が同じ部屋にいることは、両国がAIにおいて永続的な何かを構築するための稀有な機会です。

「AIはある意味で、多くの一般的な、あるいは伝統的な貿易タイプの課題を超えています。世界中の国々、中国を含む国々が参加する可能性のある、グローバルに何かを構築し始める機会があります。」 Chris Lehane氏はブリーフィング中にこう述べました。

OpenAIとは何か、そしてなぜそのグローバル政策に関する意見が重要なのか？

OpenAIは、 ChatGPT毎日何億人もの人々に使用されている人気のあるAIアシスタント/チャットボットを開発した米国の企業です。

同社はこれまで、強力なAIシステムに関する主要な議論のすべてに参加してきました。CEOのSam Altman氏は通常、国家元首と会談してAIについて議論し、議会での証言も行っており、同社はグローバルなAI政策に大きな影響力を持っています。

OpenAIは、TeslaのCEOであるElon Muskによる 訴訟 の後、別の法的紛争にも巻き込まれています。Musk氏はOpenAIの創設者の一人であり、Sam Altmanや他の執行役員が会社の非営利ミッションに反し、それを営利組織に変えたと主張しています。 

裁判は進行中ですが、今週の bigger story は北京で起きています。

OpenAIは何を提案し、IAEAとの比較とは何ですか？

OpenAのグローバルアフェアーズ担当副社長であるChris Lehane氏は、2つのものを結びつけて新しいものを創造することを提案しました。

彼は、米商務省の AI基準・革新センター とAI安全研究所が協力してグローバルネットワークを構築することを望んでいます。彼は、各国が原子力規制機関を1つの全体的な機関に接続する方法の例として、 国際原子力機関 （IAEA）を挙げました。 

米商務省のAI基準・革新センターは、AIシステムのための技術基準を作成する政府機関です。 

同時に、各国は世界中にAI研究所を設立しています。例えば、英国には1つあり、EUは枠組みを開発しており、複数のアジア諸国も同様の機関の構築に取り組んでいます。 

Lehane氏は、AIのための統一された機関が、攻撃に対してより耐性のある、より安全で回復力のあるシステムの構築に役立つと述べました。また、米政府に対して、最も強力なAIモデルを展開する前に、米国の研究者によるテストを義務付けることを望んでいます。 

Mythosモデルとは何か、そしてなぜそれがワシントンと北京の両方を揺さぶっているのか？

Mythos は、オペレーティングシステムやその他のソフトウェアで「数千」の主要な脆弱性を見つけた新しい強力なAIモデルです。GoogleとAmazonの支援を受けるAI安全企業であるAnthropicがMythosを開発しました。

Mythosが何ができるかの規模は世界を驚かせ、発表後、銀行や政府がセキュリティ防御を修正するために慌てました。ホワイトハウスの関係者でさえ、Mythosのようなモデルが中国とのコミュニケーションをこれまで以上に重要にしたことを認めています。 

中国はMythosのプレビューへの早期アクセスから締め出されており、同国の開発者や政府がAIモデルを使用した攻撃から自分自身を防御する能力について懸念が高まっています。 

市場インテリジェンス企業 IDC China は、中国をMythosから除外することが、中国と西洋の間のAI防御能力に「世代間ギャップ」を生み出す可能性があると警告しました。 

によると 研究者、攻撃者は高度なAIを使用して生物兵器を設計したり、金融ショックを引き起こしたり、人間の制御なしに自律的に行動したりできる可能性があります。最も恐ろしいのは、AIが単に強力であり、速く、間違った方向を向いていれば、これらのすべてを行うことができるという点です。 

トランプ-Xi会談では何が起こり、何について議論されましたか？

中国への米国使節団には、NvidiaのCEOであるJensen Huangとホワイトハウスのトップテクノロジー政策アドバイザーであるMichael Kratsiosが含まれていました。彼らの旅行への参加により、この会談は優先事項かつ緊急の課題となり、両側がAIの問題を直接議論するために準備を整えて臨みました。 

中国は、財務長官 Scott Bessent と中国の副財務相であるLiao Minが率いる、AI問題に関する公式対話の枠組みを提案しました。しかし、どちらの機関もAIを専門としていないため、このチャネルに対する期待は低いです。

米国はまた、中国の開発者が高度なAIモデルの出力を使用して、 分の一 のコストで、より少ない安全ガードレールでシステムを構築していることへの懸念を提起する計画でした。

両側はまた、軍事ホットラインと同様に、疑わしいAI駆動型インシデントを報告するための無責任ホットラインの設立可能性についても議論しました。

アナリストは、両政府が2015年の米中 サイバーセキュリティ協定.

と同様に、フロンティアAIモデルのガードレールにコミットする可能性があると示唆しました。最後に、議論は MATCH Act、半導体サプライチェーンへの中国のアクセスを制限することを目的とした米国の法案に触れる可能性があります。 

清華大学のSun Chenghao氏は、米中AI対話に参加し、米国はAI安全リスクの管理と単に中国の技術開発をブロックしようとする試みの間に明確な線引きを行うべきだと述べました。 

「中国は、米国がAIガバナンスと技術的封じ込めの間に適切に区別することを望んでいる可能性があります。」 Sun Chenghao氏は述べました。