英国政府はAIの利用について透明性がないと技術長官が語る

英国政府はAIシステムの使用状況を義務的な登録簿に記載していないと報じられており、透明性の問題に対する懸念が生じている。.

ガーディアン紙によると、技術長官はその後、さまざまな政府機関がさまざまな目的でAIとアルゴリズムを使用しているにもかかわらず、各省庁はAIとアルゴリズムの使用に関して透明性が確保されていないことを認めたという。.

英国政府機関はAIの活用について「盲目的に」

ガーディアン 紙の記事によると、政府がAIの導入を義務化すると表明して以来、AIの活用を表明した省庁は一つもなかったことが明らかになった。このことから、公共部門が「手探り状態で運営されている」のではないかという懸念が高まっている。

例えば、英国の政府機関は既にAIを、給付金支給から移民執行まであらゆる意思決定に活用している。ガーディアン紙によると、公的機関がAIアルゴリズムサービスのtracを締結した記録がいくつかあるという。.

例えば、警察の調達機関は最近、顔認識技術に関して2,000万ドル相当のtracを交わし、「大規模な生体認証監視」に対する懸念をさらに高めている。

しかし、公開登録簿に提出されたアルゴリズムシステムはわずか9件で、 内務省 や警察が福祉制度で使用しているAIプログラムは増加傾向にあるものの、登録簿に登録されているものは一つもない。2月、英国政府はAI登録簿の利用を「すべての政府機関にとっての必須事項」とすると発表した。

透明性の欠如について問われたピーター・カイル科学技術大臣は、公的機関は「政府によるアルゴリズムの利用方法に関して透明性を確保する必要性を十分に真剣に受け止めていない」と認めた。

「政府が国民に代わってアルゴリズムを使用しているのであれば、国民には知る権利があるということを私は認めます。」

カイル。.

「人々は、アルゴリズムは自分たちに奉仕するために存在しており、その逆ではないと実感する必要があります。そのためには、アルゴリズムの使用について透明性を確保することが唯一の方法です」とカイル氏は付け加えた。.

英国政府は警告を無視した

ガーディアン紙の記事によると、専門家は、郵便局のホライゾンソフトウェアなど、ITシステムが意図したとおりに機能しない最近の例を挙げ、AIを無批判に導入した場合の危険性について警告している。.

ホワイトホールにおけるAI技術の活用は、MicrosoftのCopilotシステムから、給付制度における不正行為やエラーの自動チェックまで多岐にわたります。雇用年金省（DWP）が最近発表した別のAItrac通知では、「DWP内でのAIへの関心の急速な高まりは、政府全体や社会全体の関心を反映している」と述べられています。

内務省は警察に加え、AIを活用した移民執行システムも運用しています。批評家が「ロボケースワーカー」と呼ぶこのシステムは、移民の母国送還を含む様々な決定に関与しています。.

しかし政府は、データからの機械学習を伴わないため、AIシステムではなく「ルールベース」であると説明している。政府によると、これにより、個々の意思決定は人間が責任を負うものの、効率性は向上するという。.

NHSイングランドは、パランティアと3億3000万ポンド規模のtracを結び、大規模な新データプラットフォームを構築すると報じられており、患者のプライバシーに関する懸念がさらに高まっている。パランティアは、データの管理権は患者が保持すると述べた。.

プライバシー権擁護団体「ビッグ・ブラザー・ウォッチ」は、tracたにもかかわらず、 議員らが規制法がないと警告し 。

「人々の生活に影響を与えるためにAIとアルゴリズムを秘密裏に使用することは、すべての人のデータ権利を危険にさらす」とチーフ・アドボカシー・オフィサーのマデリン・ストーン氏は述べた。.

「政府機関は、この技術をどのように使用しているかについてオープンかつ正直でなければならない。」

石。.

データとAIの研究機関の副所長イモジェン・パーカー氏も透明性の欠如について懸念を表明した。.

「透明性の欠如は、国民を暗闇に置き去りにするだけでなく、公共部門がAIの導入において盲目的に行動していることを意味します。」

パーカー。.

「アルゴリズムの透明性記録を公表しないことで、これらのツールが機能するかどうかを判断し、機能しないものから学び、これらのツールのさまざまな社会的影響を監視する公共部門の能力が制限される」とパーカー氏は付け加えた。.