L'IA émerge comme un outil pour lutter contre la fraude et améliorer la surveillance pendant la pandémie

Face à l'augmentation des volumes de données et à l'évolution des schémas de fraude, les agences fédérales reconnaissent le potentiel des outils d'intelligence artificielle (IA) pour améliorer la surveillance et contrer les activités frauduleuses. Le Comité de responsabilité de la réponse à la pandémie (PRAC), chargé de superviser les dépenses liées à la pandémie, a identifié l'IA comme un outil précieux pour identifier les fraudes potentielles dans les données de dépenses pandémiques. Grâce à la capacité de l'IA à analyser rapidement d'énormes volumes de données, les agences explorent son potentiel pour signaler les activités frauduleuses et protéger les programmes de prestations fédérales.

Le rôle de l'IA dans l'identification des activités frauduleuses

Le directeur des données du PRAC, Brien Lorenze, a souligné l'importance de l'IA pour lutter contre la fraude dans les dépenses pandémiques. En exploitant les capacités de l'IA, les agences peuvent identifier les identités synthétiques et les sociétés écrans que les fraudeurs peuvent exploiter pour accéder indûment aux prestations fédérales. Lorenze a souligné l'« environnement riche en cibles » pour l'IA dans la surveillance de la pandémie et son potentiel pour accélérer l'identification des schémas frauduleux.

Le PRAC détient environ 95 accords d'utilisation des données avec des agences et gère environ un milliard d'enregistrements de transactions provenant de huit agences. Naviguer dans cet immense ensemble de données pose des défis en raison des règles et de la gouvernance variables concernant l'utilisation des données. Garantir l'utilisation éthique et l'exactitude des outils d'IA reste une priorité pour l'administration Biden.

Le potentiel de l'IA pour lutter contre la fraude évolutive

Alors que l'administration Biden travaille à la mise en œuvre éthique de l'IA, les agences font face à la menace croissante de schémas de fraude accélérés par de grands modèles de langage malveillants comme FraudGPT et WormGPT. Ces modèles permettent aux fraudeurs de créer des logiciels malveillants et des attaques de hameçonnage plus efficacement, posant de nouveaux défis aux agences qui luttent contre la fraude.

Lorenze a reconnu que des outils comme FraudGPT et WormGPT peuvent aider les fraudeurs à concevoir des attaques plus sophistiquées, soulignant la nécessité pour les agences de comprendre ces outils pour les contrer efficacement. La dualité de l'IA nécessite que les agences saisissent son potentiel pour permettre la fraude et sa capacité à identifier les activités frauduleuses.

Améliorer le renseignement avec des outils d'IA

Heather Martin de la Direction des données et de l'innovation numérique de l'Agence nationale de renseignement géospatial a souligné le potentiel de l'IA pour aider les analystes à naviguer dans d'énormes volumes d'images satellites. À mesure que le volume de données augmente, les outils d'IA aident les analystes du renseignement à localiser efficacement les objets, leur permettant de se concentrer sur des tâches de priorité supérieure et des analyses approfondies.

Bien que l'IA promette beaucoup, des agences comme les Services américains de la citoyenneté et de l'immigration (USCIS) prennent des mesures prudentes vers son adoption. Damian Kostiuk, directeur adjoint des données pour l'USCIS, a souligné que les cas d'utilisation initiaux de l'IA sont relativement banals en raison des considérations juridiques. L'USCIS utilise l'IA pour pré-rédiger des documents, mais la supervision humaine reste cruciale pour garantir l'exactitude et la conformité réglementaire.

Défis dans l'environnement de données et le partage

Kostiuk a souligné que l'IA nécessite d'importantes quantités de données pour l'entraînement, mais que de nombreuses agences fédérales opèrent dans des silos de données, entravant la disponibilité d'ensembles de données complets pour les modèles d'IA. Le partage de données entre les agences reste un défi, limitant l'efficacité de la technologie IA.

Le département du Commerce mène un rapport d'évaluation de la maturité des données à l'échelle de l'agence pour relever ces défis liés aux données. Cette évaluation vise à évaluer comment les agences gouvernent, gèrent et exploitent les données, identifiant les lacunes et les opportunités d'amélioration. En améliorant la qualité des données, la gouvernance, l'accessibilité et le partage, les agences peuvent exploiter le potentiel de l'IA plus efficacement.

L'évolution du paysage de la fraude, propulsée par des modèles de langage avancés, nécessite que les agences utilisent l'IA pour comprendre et contrer les activités frauduleuses. La focalisation du PRAC sur l'exploitation de l'IA pour identifier les fraudes potentielles dans les dépenses pandémiques illustre la reconnaissance croissante du potentiel de l'IA pour rationaliser la surveillance et améliorer les capacités de détection de la fraude. Alors que les agences avancent avec prudence, relever les défis liés aux données et améliorer l'utilisation des données sera essentiel pour débloquer le véritable potentiel de l'IA dans la lutte contre la fraude et le renforcement de la surveillance.