米中間の緊張が高まる中、OpenAIは世界的なAI安全枠組みの構築を提唱

OpenAIは、AIには原子力エネルギーと同様の規制が必要だと主張し、米国がAIを扱うための世界的な規制機関の設立を主導することを求めている。. 

の報道によると Cryptopolitan、これはトランプ大統領が9年ぶりに米中公式訪問のため北京を訪問した際に起こったものでdent その訪問ではAI政策が議題になると予想されていた。

OpenAIのグローバル担当副社長であるクリス・レハネ氏によると、トランプ大統領と習近平国家dent 同じ部屋にいることは、両国がAIに関して永続的なものを構築するまたとない機会だという。.

「AIは、ある意味で、既存の、あるいは伝統的な貿易問題の多くを超越するものです。世界規模で何かを構築し始め、中国を含む世界中の国々が参加できる可能性が生まれています」と、 クリス・レハネ氏はブリーフィングで述べた。

OpenAIとは何か、そしてなぜその国際政策に関する見解が重要なのか？

を開発したアメリカの企業です ChatGPT、毎日何億もの人々が利用している人気のAIアシスタント／チャットボットである

同社は、強力なAIシステムに関するあらゆる主要な議論に常に参加してきた。CEOのサム・アルトマンは、AIについて話し合うために国家元首と会談したり、議会で証言したりするなど、世界的なAI政策に大きな影響力を持っている。.

ことで、別の法的紛争にも巻き込まれている。 訴訟を起こされた マスク氏はOpenAIの創設者の一人であり、サム・アルトマン氏をはじめとする幹部らが、同社の非営利という使命に反し、営利組織に変えてしまったと主張している。 

裁判はまだ続いているが、今週のより大きなニュースは北京で起きている。.

OpenAIは何を提唱したのか、そしてIAEAとの比較はどのようなものか？

OpenAのグローバル担当副dent あるクリス・レハネ氏は、2つのものを結びつけて新しいものを作り出すことを提案した。.

彼は、米国商務省の AI標準・イノベーション とAI安全機関が連携し、グローバルネットワークを構築することを望んでいる。彼は、 、国際原子力機関 （IAEA）を 

米国商務省のAI標準・イノベーションセンターは、AIシステムの技術標準を作成する政府機関である。. 

同時に、世界各国でAI研究所が設立されている。例えば、英国には既に研究所があり、EUは枠組みを構築中で、アジアのいくつかの政府も同様の機関の設立に取り組んでいる。. 

リーハン氏は、AIに関する統一機関が設立されれば、より安全で強靭な、攻撃を受けにくいシステムの構築に役立つと述べた。また、米国政府に対し、国内の研究者が最も強力なAIモデルを導入する前にテストすることを義務付けるよう求めている。. 

ミトスモデルとは何なのか、そしてなぜそれがワシントンと北京の両方を動揺させるのか？

Mythosは 、オペレーティングシステムやその他のソフトウェアに「数千」もの重大な脆弱性を発見した、強力な新しいAIモデルです。Mythosは、GoogleとAmazonが出資するAIセキュリティ企業であるAnthropic社によって開発されました。

Mythosの能力の規模は世界に衝撃を与え、発表後、銀行や各国政府はセキュリティ対策の強化に奔走した。ホワイトハウス当局者でさえ、Mythosのようなモデルの登場により、中国とのコミュニケーションがこれまで以上に重要になったと認めた。. 

中国はMythosのプレビュー版への早期アクセスを遮断されたことで、AIモデルを利用した攻撃に対して、中国の開発者や政府が自国を守る能力について懸念が高まっている。. 

市場調査会社 IDCチャイナは 、中国をMythosから除外すると、中国と西側諸国との間でAI防衛能力における「世代間のギャップ」が生じる可能性があると警告した。 

によると 研究者、攻撃者は高度なAIを利用して生物兵器を設計したり、金融危機を引き起こしたり、人間の制御なしに自律的に行​​動したりする可能性があるという。最も恐ろしいのは、AIが強力で高速であり、かつ誤った方向に向けられていれば、これらすべてを実行できるということだ。 

トランプ大統領と習国家主席の会談では何が起こり、どのようなことが話し合われたのか？

米国代表団には、NvidiaのCEOであるジェンセン・フアン氏と、ホワイトハウスの技術政策担当上級顧問であるマイケル・クラツィオス氏が含まれていた。両氏が同行したことで、今回の会談は優先事項かつ緊急の課題となり、双方ともAI問題について直接話し合う準備を整えていた。. 

財務長官と廖敏財政副大臣が主導するAI問題に関する正式な対話を提案した スコット・ベセント米 。しかし、両機関ともAIを専門としていないため、この対話への期待は低い。

米国はまた、中国の開発者が高度なAIモデルの出力結果を利用して、 大幅 に削減できる一方で、安全対策が不十分なシステムを構築していることへの懸念を表明する予定だった。

両者はまた、軍のホットラインと同様に、AIが関与している疑いのあるdentを報告するための、非難を伴わないホットラインを設置する可能性についても話し合った。.

と同様に、最先端のAIモデルに対する安全策を講じる可能性もあると示唆した サイバーセキュリティ協定。

最後に、議論では MATCH法案、中国の半導体サプライチェーンへのアクセスを制限することを目的とした米国の法案である 

清華大学の孫成浩氏は米中AI協議に参加し、米国はAIの安全性リスクの管理と、中国の技術開発を単に阻止しようとすることとの間に明確な線引きをすべきだと述べた。. 

「中国はおそらく、米国がAIガバナンスと技術封じ込めを適切に区別することを期待しているだろう」 と孫成浩氏は述べた。