英国政府はAIの使用について透明ではないと技術長官は述べる

著者

Enacy Mapakame 3分で読了公開 28年 2024日

複数の政府省庁がすでにAIやアルゴリズムを活用している。
例えば、内務省はAIを活用した移民強制執行システムを使用していると報じられている。
権利擁護団体は、各省庁がどのようにAIを利用するかを公開する必要があると指摘している。

英国政府は義務付けられた登録簿にAIシステムの使用を記載していないと報じられ、透明性に関する懸念が高まっています。

The Guardianによると、技術長官はその後、さまざまな政府部門がさまざまな目的でAIを使用しているにもかかわらず、部門がAIとアルゴリズムの使用について透明ではないことを認めています。

英国政府部門はAI使用について「盲目で飛行中」

The Guardianの記事は、政府がAIの使用を義務付けると示したにもかかわらず、リストされた部署のいずれもAIの使用を記載していないことを明らかにしました。これにより、公共部門が「盲目で飛行している」という懸念が高まりました。

これは、英国の政府部門がすでにAIを使用している状況で行われています。例えば、給付金支払いから移民強制執行に至るまでのすべての決定に情報を提供するために使用されています。The Guardianによると、いくつかの記録では、公共機関がAIアルゴリズムサービスへの契約を授与したことが示されています。

例えば、警察の調達機関は最近、2000万ドルの顔認識に関する契約を提示し、「大量の生体認証監視」に関する懸念をさらに高めています。

しかし、公的登録簿に提出されたアルゴリズムシステムはわずか9つだけで、Home Officeや警察によって福祉システムで使用されている増加する数のAIプログラムのいずれも含まれていません。2月、英国政府は、AI登録簿の使用が今や「すべての政府省庁に対する要件」になると発表しました。

透明性の欠如について問われた際、科学技術長官のPeter Kyleは、公共部門が「政府がアルゴリズムを使用する方法について透明である必要性を十分に真剣に受け止めていない」と認めました。

「政府が公共のためにアルゴリズムを使用している場合、公共は知る権利を持っていると私は受け入れます。」

カイル。

「公共は、アルゴリズムが彼らに奉仕するためのものであり、その逆ではないと感じる必要があります。それを実現するための唯一の方法は、その使用について透明であることです」とKyleは追加しました。

英国政府は警告を無視した

The Guardianの記事によると、専門家は、AIを批判的に受け入れずに採用した場合の危険性について警告し、意図した通りに機能しなかったITシステムの最近の例として、Post OfficeのHorizonソフトウェアが含まれます。

WhitehallでのAI技術の使用は、MicrosoftのCopilotシステムから、給付金システムにおける自動不正およびエラーチェックまで及びます。Department of Work and Pensions（DWP）による最近のAI契約通知は、「DWP内での関心の急増が、より広範な政府および社会のそれと一致している」と記述しています。

警察以外に、Home OfficeもAI対応の移民強制執行システムを使用しています。このシステムは、批評家によって「ロボケースワーカー」と呼ばれ、本国への送還を含む決定の形成に関与しています。

政府は、データからの機械学習を含まないため、これをAIシステムではなく「ルールベース」システムと説明しています。政府によると、これは効率性をもたらしますが、各決定に対して人間が責任を負います。

NHS Englandもまた、患者のプライバシーに関する懸念をさらに高めている、Palantirとの3億3000万ポンドの巨大な新データプラットフォーム構築契約を結んでいると報じられています。Palantirは、患者がデータの制御を維持すると述べています。

プライバシー権のキャンペーン団体であるBig Brother Watchは、警察の顔認証契約の出現が、それを規制する立法の欠如について警告していたMPsの懸念にもかかわらず、政府がAI技術の使用に関して透明性を欠いていることを浮き彫りにしたと指摘しました。

「人々の生活に影響を与えるAIとアルゴリズムの秘密の使用は、すべての人のデータ権利を危険にさらします」と、首席提唱官のMadeleine Stoneは述べました。