マヨルカス氏、AIの安全確保に向けた国土安全保障省の戦略を発表

国土安全保障省の AI 諮問委員会が今週月曜日に初会合を開いた。同委員会は、人工知能技術の導入に関する対応を改善し、外部からの脅威からこの技術を守ることを目的としている。

AIのバイアスとセキュリティリスクへの取り組み

RSAカンファレンスでの記者との質疑応答と従業員への基調講演の中で、マヨーカス氏はAIセキュリティと理事会の初会合の議論結果について語った。メンバーは、重要施設におけるAIセキュリティの問題について発言した。また、国土安全保障省（DHS）の業務におけるAI導入が人権に及ぼす影響についても触れ、AIが既存の暗黙の偏見の延長として利用される可能性を指摘する発言もあった。.

肌の色や性差別に関わるAIシステムは、専門家や連邦政府が長年取り組んできた問題の一つです。しかし、思想的リーダーや政府関係者がマイノリティであるため、システムが女性や有色人種に対して適切に機能するかどうかを検証するテストを怠っているのが現状です。さらに、 ホワイトハウス と司法省も、AIシステムによる偏見を排除するためのプロジェクトを開始しました。

四半期ごとに会合を開くDHSの理事会の内容が明らかにされた。理事会には、OpenAIのCEOサム・アルトマン氏をはじめとする関係者、AIに積極的に取り組む政府関係者、重要インフラやテクノロジー企業のオーナーなどが参加している。マヨーカス氏は、ハリケーン被害の保険金請求に焦点を当てた取り組みから、最近では連邦緊急事態管理庁（FEMA）による難民案件担当官の訓練支援まで、AIの用途は20以上あると述べた。.

AIの脅威に対する世界的な協力

DHS当局は報告書の中で、様々な利害関係者の異なる懸念によりAI技術が導入された、あるいは撤回された事例を一覧化したポータルサイトを作成したことを明らかにしました。DHS当局は、AI関連分野の人員拡大を目指しており、この分野の求人には既に3,000件の応募があると強調しました。

マヨルカス氏は、委員会がAIへの潜在的な脅威を防止し、AIの適用中に生じる望ましくない結果のリスクを軽減するための戦略と計画の骨子を策定するプロセスを開始したと述べた。委員会における補足作業はすでに満足のいくものであった。委員会のメンバーが国際的な AI もまた、他国との立法化に向けた取り組みにおいて重要である。

しかし、AIシステムの防御は、グローバルなプレーヤーの参加だけで達成できるものではありません。そのようなシナリオでは、パートナーシップを通じて強固な防御メカニズムを構築する必要があります。.