NIST、AIの安全性と標準に関するガイダンス草案を発表

米国国立標準技術研究所（NIST）は、AIシステムの安全性、セキュリティ、信頼性を確保するための4つの草案を公開し、人工知能（AI）に関連する課題の解決に積極的に取り組んでいます。2024年6月2日までの期間中、草案はパブリックコメントに公開されます。これは、AI技術の影響を軽減しつつ、責任あるイノベーションを促進し、米国の技術的リーダーシップを維持することを重視する2023年10月のAIに関する大統領令に対するNISTの対応を反映しています。.

生成AIのリスクを軽減する

NISTの草案におけるdentしています。このフレームワークは、開発者が従うべき構造を提供し、目標と優先順位を整合させるのに役立ちます。主な懸念事項の一つは、生成型AI技術から生じるセキュリティ上の脅威です。AI RMFのAI生成型AIプロファイルでは、機密情報への高いアクセス性からヘイトスピーチや悪意のあるコンテンツの拡散まで、12のリスクが示されています。これらのリスクへの対処はNISTの重点分野であり、組織が検討できる400を超える潜在的なリスク管理アクションを

トレーニングデータのリスクを最小限に抑える 

草案で提示されたもう一つの重要な内容は、AIシステムの学習に使用されるデータのセキュリティ確保です。NISTの既存ガイダンスの一部である「生成AIおよびデュアルユース基盤モデルのためのセキュアなソフトウェア開発プラクティス」に関する草案は、悪意のある学習データへの懸念が高まる中、AIシステムの完全性を保証するために作成されました。NISTは、コンピュータコードを安全にするためのいくつかの方法を提案し、データの収集と利用を含むデータに関する問題に対する解決策を示しています。これにより、AIシステムは潜在的な脅威に対してより安全になります。.

AI作成コンテンツの透明性の促進

合成デジタル素材の急増に対応するため、NISTは近日公開予定の「合成素材によるリスクの軽減」に関する文書において、合成素材がもたらすリスクを軽減するための対策を策定しています。NISTは、デジタル透かしとメタデータ記録を通じて、改ざんされたメディアの tracとdentを可能にし、合意のない性的な画像や児童性的虐待コンテンツの配信といった悪影響を防ぐことを目指しています。.

AI標準に関する世界的な取り組みを推進

AI関連標準の策定において国際協力が鍵の一つであることを認識し、NISTは AI 標準に関するグローバル・エンゲージメント・プランの草案を作成しました。この計画の目的は、国際的な同盟国、標準策定団体、そして民間セクター間の協力と連携を促進し、AI技術の標準化を加速させることです。コンテンツの出所認識と試験方法を最優先事項とすることで、NISTはtron世界中でAI技術の安全かつ倫理的に健全な運用を確保する

NIST GenAIの開始

さらに、同研究所は生成型人工知能ツールの能力を評価・定量化するソフトウェアツール「NIST GenAI」を開発しました。NIST GenAIは、NIST AI Safety Instituteがチャレンジ問題やパイロット評価を実施するためのツールとなり、NISTの米国AI Safety InstituteがAIアルゴリズムの入力と人間が作成したコンテンツを区別するのを支援します。この取り組みの主な目的は、情報の信頼性を高め、AI時代におけるコンテンツ作成の倫理的側面に関するガイダンスを提供することです。.

NISTによるこれらのドラフトレポートの発表とNIST GenAIの立ち上げは、社会の課題であるAI関連の課題を解決すると同時に、社会のイノベーションを安全に保つための、積極的かつ開発志向の取り組みを示しています。NISTは、AI技術を開発または導入した企業などの主要なステークホルダーからの意見を募ることで、このプラットフォームはAIの安全性と標準のガイドラインの策定に影響を与えることができます。このプロセスに積極的に関与することで、ステークホルダーは最も望ましいプラクティスと業界標準のアプローチの確立に貢献することができ、最終的には安全で信頼できるAIエコシステムの構築につながります。.