米国商務省、AI およびクラウドプロバイダーに対する新しい報告規則を提案

米国商務省は、技術の安全性とセキュリティを確保するため、高度な AI 開発者およびクラウドプロバイダーに対する新しい報告要件を提案しました。

産業安全保障局（BIS）は、スーパーコンピュータの作成に投資するフロンティア創出企業やエンジニアリングクラスター管理のビジネスハウスが、連邦当局に対して特定の重要な開発活動の提出義務を負うことを明確にしました。この傾向は、サイバーセキュリティに関連するセキュリティ脅威や、AI リソースの誤った使用を減少させることを意図しています。

新しい提案によると、開発者は AI システムに関する詳細情報を開示する必要があり、特にサイバーセキュリティ対策とレッドチーム演習の取り組みに焦点が当てられます。レッドチーム演習は、サイバーセキュリティで使用される手法で、AI の有害な使用（例えば、サイバーテロリズムの助長や大量破壊兵器の作成の促進など）を評価します。

AI 開発者、サイバーセキュリティ対策とリスクテストの報告に関する新しい義務

商務省の提案では、AI 開発者がレポートにレッドチーム演習の結果を含める必要があり、特にサイバー攻撃などの危険な機能に関連するものが対象となります。この手法は冷戦時代のシミュレーションに由来し、攻撃や侵害をシミュレートすることでリスクを特定します。

組織は、外国の利害関係者やシステムを重大な悪意ある目的のために悪用しようとする非国家アクターからの攻撃に対して、AI システムがどれほど耐性を持っているかを更新する必要があります。

ユーザーのプロンプトに基づいてテキスト、画像、またはビデオを作成できる生成 AI は、懸念を呼び起こしています。この技術は多くの分野で進歩をもたらしていますが、雇用の喪失、選挙への干渉、人間に対する AI の支配のリスクなど、潜在的な脅威への恐れも高めています。

新しい報告ガイドラインは、AI モデルの安全で信頼性の高い開発を確保し、これらのリスクが現実化する可能性を減らすことを目的としています。

クラウドプロバイダー、セキュリティおよび AI 開発に関する新しい報告基準を満たす必要

AI 開発者に加え、提案された規則は Amazon Web Services (AWS)、Google Cloud、Microsoft Azure などのクラウドサービスプロバイダーにも関係します。AI の開発を推進する上で不可欠なこれらのプラットフォームは、インフラのサイバーセキュリティに関する厳格な基準に従う必要があります。商務省は、この情報が他の国々による米国技術の悪用を回避するために重要であると強調しました。

この規制の推進は、2023年10月に署名された Joe Biden 大統領の行政命令に続いています。この命令は、AI 技術開発者が技術を一般公開する前に、その安全性テスト結果を米国政府に提出することを要求しています。商務省が発表した草案は、AI によって引き起こされる脅威から国の国家安全保障、公衆衛生、経済を保護することを目的とするこの広範な目標と一致しています。

この提案は、Biden 政権が中国の AI 開発のための米国技術へのアクセスを防止するための措置をさらに採用する之前的な取り組みにも続き、この絶えず拡大する業界内でセキュリティへの懸念が高まっていることを示唆しています。