パンデミック中に不正行為の防止と監視の強化のためのツールとしてAIが台頭

データ量の増加と進化する不正手口の中で、連邦機関は監視を強化し、不正行為に対抗するための人工知能（AI）ツールの可能性を認識しつつある。パンデミック関連支出の監督を担当するパンデミック対応監査委員会（PRAC）は、パンデミック支出データにおける潜在的な不正を特定するための貴重なツールとしてAIを特定した。AIは膨大なデータを迅速に分析する能力を持っており、機関は不正行為のフラグを立て、連邦の給付プログラムを保護するその可能性を探っている。

不正行為の特定におけるAIの役割

PRACのチーフデータオフィサーであるブライエン・ローレンツェは、パンデミック支出における不正に対処する際のAIの重要性を強調した。AIの能力を活用することで、機関は詐欺師が連邦給付を不正にアクセスするために悪用する可能性のある合成アイデンティティやシェルカンパニーを特定できる。ローレンツェは、パンデミック監視におけるAIの「標的が豊富な環境」と、不正なパターンを迅速に特定する可能性を強調した。

PRACは約95の機関データ使用契約を保有し、8つの機関からの約10億件のトランザクションレコードを管理しています。この膨大なデータセットの運用は、データ使用に関する規則やガバナンスの違いにより課題を生んでいます。AIツールの倫理的な使用と正確性の確保は、バイデン政権にとって優先事項です。

進化する不正行為に対抗するAIの可能性

バイデン政権が倫理的なAIの実装に向けて取り組む一方で、各機関はFraudGPTやWormGPTといった悪意のある大規模言語モデルによって加速する不正行為の増加する脅威と格闘しています。これらのモデルは、詐欺師がマルウェアやフィッシング攻撃をより効率的に作成することを可能にし、不正行為に対処する機関にとって新たな課題を突きつけています。

ローレンツェ氏は、FraudGPTやWormGPTのようなツールが詐欺師により洗練された攻撃を仕掛けるのを助けることを認め、これらのツールを理解することで機関が効果的に対抗する必要性を強調しました。AIの両義性により、機関は不正を可能にする可能性と不正行為を特定する能力の両方を理解する必要があります。

AIツールによるインテリジェンスの強化

国立地理空間情報局（NGA）データ・デジタルイノベーション局長のヘザー・マーティン氏は、膨大な量の衛星画像を分析する際のアナリストを支援するAIの可能性を強調しました。データ量が増加する中、AIツールはインテリジェンスアナリストがオブジェクトを効率的に見つけるのを助け、より優先度の高いタスクや詳細な分析に集中できるようにしています。

AIには期待が寄せられていますが、米国市民帰化移民局（USCIS）のような機関は、その採用に対して慎重なステップを踏んでいます。USCISの副首席データオフィサーであるダミアン・コスティュク氏は、法的考慮事項により、AIの初期使用事例は比較的平凡であることを強調しました。USCISは文書の事前草案作成にAIを使用していますが、正確性と規制遵守を確保するために人間の監督が依然として重要です。

データ環境と共有における課題

コスティュク氏は、AIはトレーニングに広範なデータを必要としますが、多くの連邦機関がデータのサイロ内で運用しており、AIモデルのための包括的なデータセットの利用可能性が妨げられていることを強調しました。機関間でのデータ共有は依然として課題であり、AI技術の有効性を制限しています。

商務省は、これらのデータ関連の課題に対処するために、機関全体のデータ成熟度評価レポートを実施しています。この評価は、機関がデータをガバナンス、管理、活用する方法を評価し、改善のためのギャップと機会を特定することを目的としています。データの品質、ガバナンス、アクセシビリティ、共有を強化することで、機関はAIの可能性をより効果的に活用できます。

高度な言語モデルによって推進される不正行為の進化する状況は、機関が不正行為を理解し対抗するためにAIを使用する必要性を迫っています。パンデミック支出における潜在的な不正を特定するためにAIを活用するPRACの焦点は、AIが監督を効率化し不正検出能力を強化する可能性に対する認識の高まりを示しています。機関が慎重に進む中で、データ課題に対処しデータ活用を改善することが、不正行為に対抗し監督を強化するためのAIの真の可能性を引き出すために不可欠です。