マヨルカス、DHSのAIセキュリティ戦略を明らかに

国土安全保障省（DHS）のAI諮問委員会の最初の会議が今週月曜日に開催された。この委員会は、人工知能技術の導入処理を改善し、外部脅威から技術を守ることを目的としている。

AIバイアスとセキュリティリスクへの対処

RSA会議での記者とのQ&Aセッションと、従業員との基調講演の中で、マヨルカスはAIセキュリティと委員会の最初の会議の議論の結果について議論した。委員たちは、重要施設におけるAIセキュリティの問題について話していた。また、DHSの任務におけるAI導入の人権への影響にも言及し、一部はそれが既存の暗黙のバイアスの拡張として使用される可能性を強調した。

人種差別や性差別を助長するAIシステムは、専門家や連邦政府が長年取り組んできた問題のいくつかである。なぜなら、思想のリーダーや政府がマイノリティであり、システムが女性や有色人種と機能するかどうかを確認するために製品をテストすることに配慮していないからである。さらに、ホワイトハウスと司法省も、AIシステムにもたらされるバイアスを排除するプロジェクトを開始した。

四半期ごとに会合を持つDHSの委員会は、OpenAIのCEOであるサム・アルトマン、AIで活動する政府関係者、そして重要インフラとテクノロジーの醸造者の所有者などを含むことが明らかにされた。マヨルカスは、ハリケーンの損害保険請求への集中から、最近では連邦緊急事態管理庁（FEMA）が難民ケースエージェントを訓練するのを支援することまで、20以上のAI使用があると述べた。

AI脅威に対するグローバルな協力

DHSの当局者は、報告書で、AI技術がさまざまな利害関係者間の懸念の違いにより導入または撤回された場所をリストにしたポータルを作成したと強調した。DHSの当局者は、同省がAI関連分野での人材拡大を図っており、この分野の職位に対してすでに3,000件の応募があったと強調した。

マヨルカスは、委員会がAIへの潜在的な脅威を防止し、AIアプリケーション中の望ましくない結果のリスクを軽減するための戦略と計画のアウトラインを作成するプロセスを開始したと共有した。委員会の補足作業はすでに満足いくものであった。この構成が国際的なAIリーダーで構成されているという事実は、他の国々と立法上の有害な影響に対処するために重要である。

しかし、AIシステムを防御することは、グローバルなプレイヤーを巻き込むだけでは達成されない。そのようなシナリオでは、堅固な防御メカニズムを構築するためのパートナーシップが必要である。