ホワイトハウスによる連邦機関へのAIバイアステストの義務付け

米国政府によるAI技術の責任あるアプローチでの採用を促進するための主要なイニシアチブの一つとして、ホワイトハウスは、政府機関全体で使用されるAIツールに対してバイアステストを実施する必要性を指示しました。

OMBを通じて発行されたこの大統領令は、差別やプライバシー侵害など、発生し得る最小限のリスクを封じ込めることを目的とした、バイデン政権の主要な政策アジェンダの1つを示しています。

連邦機関がAIの監督と説明責任に備える

政府全体の政策として発表された通り、連邦機関は人々の権利と安全に準拠するための強力な運用システムを構築します。これらは、人工知能が人々の生活に影響を与える可能性のある方法で適用される12月1日までに実装されるべきです。 

特に、これらの措置は、交通、医療、サービス提供を含む異なるセクター間の区別、私生活への侵害、および相違点を排除するために設計されています。監督を確保するための他の措置に加えて、人工知能の長または犯罪および執行の長が任命されるべきです。

米政府全体のAI活用を各部署で調整し、OMB（米政府管理予算局）のAIガイダンスの執行を監督するため、首席AI責任者（Chief Artificial Intelligence Officers）が任命される。これらの役職者は、連邦政府内のAI導入が透明性を持って行われ、説明責任が果たされることを保証し、策定に関与する。

カマラ・ハリス副大統領は、これらの国内政策がグローバルな行動のモデルとなることを意図しており、AI利用における公共の利益の優先が重要であると強調した。同政権は、このイニシアチブへのコミットメントをさらに示すため、夏までにAIに焦点を当てた少なくとも100人の雇用を計画している。

高リスクシステムに対する厳格なテスト

上級行政当局者は、高リスクシステムは潜在的なバイアスやリスクを特定し軽減するために厳格なテストを受けると述べている。この予防的なアプローチは、政府運営におけるAI技術の責任ある利用を確保するという政権のコミットメントを強調している。

新しいガイドラインの下では、アメリカ人は、システムが誤情報や自分自身に影響を与える決定をもたらしたと信じる場合、救済措置を求めることができる。 

連邦機関は、システムのリスト、リスク評価、および管理戦略を公開しなければならない。政権の規則に準拠していないソフトウェアについては免除が許可される可能性があるが、透明性とAI導入における説明責任を促進するため、その理由の説明が必要である。

課題と今後の方向性

Center for Democracy and Technologyの会長兼CEOであるAlexandra Reeve Givens氏は、このガイダンスを、連邦機関内での責任あるAIの使用を確保するための重要な一歩として称賛しました。

ギブンス氏は、新しい技術が個人やコミュニティに与える潜在的な影響を評価するための厳格なプロセスの重要性を強調した。

連邦機関は長年AI技術を活用してきたが、AIのより広範な規制は議会で行き詰まっている。その結果、バイデン政権は、主要なテクノロジー顧客としての政府の立場を活用し、安全対策を確立し、責任あるAIの採用を促進している。

政権が講じた予防的な措置にもかかわらず、課題は残っており、特にAIシステムにおけるバイアスの永続化に関する課題である。人種的バイアスやAI駆動の意思決定における不正確さの事例は、AI導入における継続的な警戒と監視の必要性を浮き彫りにしている。

連邦機関におけるAI使用のバイアステストと監視に関するホワイトハウスの指示は、AI技術の責任あるかつ倫理的な採用を確保するための重要な一歩を表している。具体的な安全対策の実装、透明性の促進、そして公的な説明責任の育成により、政権は潜在的なリスクに対処しつつ、社会の利益のためにAIの革新的な可能性を活用することを目指している。