AIの初会合が今週月曜日に開催されました。委員会は、人工知能技術の導入における対応を改善し、外部からの脅威から技術を守ることを目指しています。
AIのバイアスとセキュリティリスクへの取り組み
RSAカンファレンスでの記者との質疑応答と従業員への基調講演の中で、マヨーカス氏はAIセキュリティと理事会の初会合の議論結果について語った。メンバーは、重要施設におけるAIセキュリティの問題について発言した。また、国土安全保障省（DHS）の業務におけるAI導入が人権に及ぼす影響についても触れ、AIが既存の暗黙の偏見の延長として利用される可能性を指摘する発言もあった。.
色彩差別や性差別にAIシステムが利用されているという問題は、専門家や連邦政府が長年取り組んできた課題です。これは、思想的リーダーや政府が少数派であり、製品が女性や有色人種にも有効かどうかをテストする手間を惜しんでいるためです。さらに、ホワイトハウスと司法省も、AIシステムがもたらす偏見を排除するためのプロジェクトを開始しました。
四半期ごとに会合を開くDHSの理事会の内容が明らかにされた。理事会には、OpenAIのCEOサム・アルトマン氏をはじめとする関係者、AIに積極的に取り組む政府関係者、重要インフラやテクノロジー企業のオーナーなどが参加している。マヨーカス氏は、ハリケーン被害の保険金請求に焦点を当てた取り組みから、最近では連邦緊急事態管理庁（FEMA）による難民案件担当官の訓練支援まで、AIの用途は20以上あると述べた。.
AIの脅威に対する世界的な協力
DHS当局は報告書の中で、様々な利害関係者の異なる懸念によりAI技術が導入された、あるいは撤回された事例を一覧化したポータルサイトを作成したことを明らかにしました。DHS当局は、AI関連分野の人員拡大を目指しており、この分野の求人には既に3,000件の応募があると強調しました。
マヨルカス氏は、委員会がAIへの潜在的な脅威を防止し、AIの適用中に生じる望ましくない結果のリスクを軽減するための戦略と計画の骨子を策定するプロセスを開始したと述べた。委員会における補足作業はすでに満足のいくものであった。委員会のメンバーが国際的なAIもまた、他国との立法化に向けた取り組みにおいて重要である。
しかし、AIシステムの防御は、グローバルなプレーヤーの参加だけで達成できるものではありません。そのようなシナリオでは、パートナーシップを通じて強固な防御メカニズムを構築する必要があります。.
