Mayorkas Dévoile la Stratégie du DHS pour Sécuriser l'IA

La première réunion du Conseil consultatif sur l'IA du Département de la Sécurité intérieure des États-Unis a eu lieu lundi cette semaine. Le conseil vise à améliorer sa gestion du déploiement des technologies d'intelligence artificielle et à défendre cette technologie contre les menaces extérieures.

Affronter les biais de l'IA et les risques de sécurité

Lors d'une session de questions-réponses avec les journalistes à la conférence RSA et d'un discours d'ouverture avec les employés, Mayorkas a discuté de la sécurité de l'IA et des résultats de la première réunion du conseil. Les membres parlaient de la question de la sécurité de l'IA dans les installations essentielles. Ils ont également abordé les implications en matière de droits humains de la mise en œuvre de l'IA dans les tâches du DHS, certains soulignant son potentiel à être utilisé comme une extension des biais implicites existants.

Les systèmes d'IA travaillant dans le colorisme et le sexisme sont deux problèmes de longue date que les experts et le gouvernement fédéral continuent d'aborder, car les leaders d'opinion et le gouvernement sont des minorités qui ne se donnent pas la peine de tester les produits pour voir si les systèmes fonctionnent avec les femmes et les personnes de couleur. De plus, la Maison Blanche et le Département de la Justice ont également lancé des projets visant à éliminer les biais apportés par les systèmes d'IA.

Le conseil du DHS, qui se réunira trimestriellement, a été divulgué. Il comprend des personnes comme le PDG d'OpenAI, Sam Altman, des fonctionnaires actifs dans l'IA, et des propriétaires d'infrastructures critiques et de brasseurs de technologie. Mayorkas a déclaré qu'il existe plus de 20 utilisations de l'IA, allant de la focalisation sur les réclamations d'assurance pour les dégâts d'ouragan à l'aide récente apportée à l'Agence fédérale de gestion des urgences (FEMA) pour former les agents des cas de réfugiés.

Coopération mondiale contre les menaces de l'IA

Les responsables du DHS ont souligné dans leurs rapports qu'ils ont créé un portail listant où la technologie IA a été déployée ou retirée en raison de préoccupations disparates parmi diverses parties prenantes. Les responsables du DHS ont souligné que le département cherche à élargir sa main-d'œuvre dans les domaines liés à l'IA, et 3000 candidatures ont déjà été reçues pour les postes dans ce domaine.

Mayorkas a partagé que le conseil a initié le processus d'élaboration de contours de stratégie et de plans pour prévenir les menaces possibles contre l'IA et réduire les risques de conséquences indésirables lors de l'application de l'IA. Le travail supplémentaire au sein du Conseil était déjà satisfaisant. Le fait que ce soit la composition de leaders internationaux de l'IA est également critique car cela fonctionnera sur les dommages législatifs avec d'autres pays.

Cependant, la défense des systèmes d'IA ne sera pas atteinte uniquement en ayant des acteurs mondiaux à bord. Un tel scénario nécessite un partenariat pour construire un mécanisme de défense solide.