Mayorkas dévoile la stratégie du DHS pour sécuriser l'IA

La première réunion du sur l'intelligence artificielle s'est tenue lundi dernier. Ce conseil a pour objectif d'améliorer la gestion du déploiement des technologies d'intelligence artificielle et de les protéger contre les menaces extérieures.

Lutter contre les biais de l'IA et les risques de sécurité

Lors d'une séance de questions-réponses avec les journalistes à la conférence RSA et d'un discours d'ouverture devant les employés, Mayorkas a abordé la question de la sécurité de l'IA et les conclusions de la première réunion du conseil d'administration. Les membres ont discuté de la sécurité de l'IA dans les installations critiques. Ils ont également évoqué les implications en matière de droits humains de la mise en œuvre de l'IA dans les missions du DHS, certains soulignant son potentiel d'amplification des biais implicites existants.

Les systèmes d'IA qui favorisent le colorisme et le sexisme constituent deux problèmes persistants que les experts et le gouvernement fédéral continuent d'examiner, car les décideurs et les instances gouvernementales sont souvent issus de minorités et ne prennent pas la peine de tester ces systèmes pour vérifier leur efficacité auprès des femmes et des personnes de couleur. Par ailleurs, la Maison-Blanche et le ministère de la Justice ont également lancé des projets visant à éliminer les biais introduits par ces systèmes d'IA.

La composition du conseil d'administration du DHS, qui se réunira trimestriellement, a été dévoilée. Il comprend des personnalités telles que Sam Altman, PDG d'OpenAI, des responsables gouvernementaux actifs dans le domaine de l'IA, ainsi que des dirigeants d'entreprises d'infrastructures critiques et de sociétés technologiques. Mayorkas a indiqué que l'IA trouve plus de 20 applications, allant du traitement des demandes d'indemnisation suite aux ouragans à la formation récente des agents chargés des dossiers des réfugiés pour l'Agence fédérale de gestion des urgences (FEMA).

Coopération mondiale contre les menaces de l'IA

Dans leurs rapports, les responsables du DHS ont souligné la création d'un portail recensant les déploiements et les abandons de technologies d'IA, en raison de préoccupations divergentes parmi les différentes parties prenantes. Ils département souhaite renforcer ses effectifs dans les domaines liés à l'IA et que 3 000 candidatures ont déjà été reçues pour des postes dans ce secteur.

Mayorkas a indiqué que le conseil avait entamé l'élaboration d'une stratégie et de plans visant à prévenir les menaces potentielles pesant sur l'IA et à réduire les risques de conséquences indésirables lors de son application. Les travaux complémentaires menés par le conseil étaient déjà satisfaisants. La composition de ce conseil, qui réunit des leaders internationaux de l'IA, est également cruciale, car elle permettra de collaborer avec d'autres pays sur les aspects législatifs susceptibles de nuire à l'IA.

Toutefois, la protection des systèmes d'IA ne reposera pas uniquement sur la mobilisation des acteurs mondiaux. Un partenariat est indispensable pour bâtir un mécanisme de défense robuste.