Pourquoi le PDG de la FCA met en garde contre la perturbation de l'IA dans le secteur des services financiers

Le directeur général de l'Autorité de conduite financière (FCA), Nikhil Rathi, a soulevé des inquiétudes concernant le risque croissant de l'intelligence artificielle (IA) dans le secteur des services financiers. S'adressant aux leaders de l'industrie, Rathi a mis en évidence le potentiel de l'IA à perturber le secteur de manière sans précédent, notamment en ce qui concerne les risques cybernétiques et la fraude en ligne. Il a averti que la FCA prendrait des mesures contre les activités frauduleuses basées sur l'IA. Ces avertissements s'inscrivent dans le cadre de l'objectif du Royaume-Uni de mener les efforts internationaux en matière de régulation de l'IA, avec un sommet à venir sur les risques et la réglementation entourant l'IA.

La menace croissante de l'IA

Selon Rathi, à mesure que l'IA se généralise, il existe un risque significatif que la fraude cybernétique, les cyberattaques et la fraude à l'identité augmentent en ampleur, en sophistication et en efficacité. La réunion du Premier ministre Rishi Sunak avec les PDG de grandes entreprises d'IA en mai a souligné le désir du Royaume-Uni d'être à l'avant-garde de la régulation mondiale de l'IA. Cependant, Rathi a mis en garde en affirmant que la technologie de l'IA augmentera les risques pour les entreprises financières, rendant les cadres supérieursultimement responsables des décisions prises par l'IA. Il a souligné la nécessité d'accélérer les investissements dans la prévention de la fraude, la résilience opérationnelle et les mesures de cybersécurité pour suivre le rythme de l'adoption de l'IA.

Le défi des deepfakes

Rathi a cité l'exemple d'une récente vidéo deepfake mettant en vedette Martin Lewis, militant pour les finances personnelles, promouvant des investissements spéculatifs. Lewis a qualifié la vidéo d'« effrayante » et a appelé à une action réglementaire pour empêcher des arnaques similaires. En réponse à cette préoccupation grandissante, plusieurs plateformes technologiques ont commencé à étiqueter clairement le contenu généré par des outils d'IA. Les gouvernements du monde entier travaillent également sur des cadres réglementaires pour l'IA. Microsoft, par exemple, a introduit un outil de détection en septembre 2020 pour identifier les photos et vidéos deepfake afin de lutter contre la désinformation.

Naviguer dans le paysage réglementaire

Avec la montée en puissance de l'IA, la FCA fait face à un champ de mines réglementaire. Suid Adeyanju, PDG de l'expert en cybersécurité RiverSafe, a souligné l'importance de maintenir une communication ouverte avec les entreprises pour relever les défis et saisir les opportunités à venir. Adeyanju a mis en évidence la complexité apportée par les cyberattaques et les arnaques en ligne alimentées par l'IA, exhortant les entreprises de services financiers à renforcer leurs capacités de cybersécurité et à neutraliser efficacement ces menaces.

Renforcer la détection de la fraude

Chris Downie, PDG de la plateforme de détection de fraude Pasabi, a souligné la nécessité pour les services financiers d'améliorer leur capacité à détecter la fraude et les arnaques alimentées par l'IA. Downie a salué la reconnaissance par la FCA de l'urgence de renforcer les mesures de prévention de la fraude et a souligné l'importance de la collaboration entre la FCA, les entreprises et les fournisseurs de logiciels de détection de fraude. Une telle collaboration permettrait l'adoption de technologies avancées de détection de la fraude et aiderait à restaurer la confiance dans le marché des services financiers.

Le PDG de la FCA, Nikhil Rathi, a mis en lumière la menace croissante posée par l'IA dans le secteur des services financiers. À mesure que la technologie de l'IA progresse, les risques de fraude cybernétique et d'arnaques en ligne augmentent en ampleur et en sophistication. La FCA entend adopter une position ferme contre les activités frauduleuses basées sur l'IA tout en promouvant une innovation bénéfique et des protections proportionnées. Le défi réside dans le maintien d'une communication efficace avec les entreprises et dans la prise d'avance sur les menaces alimentées par l'IA grâce à des investissements accélérés dans la cybersécurité et la prévention de la fraude. En collaborant avec des experts de l'industrie, les organismes de réglementation peuvent exploiter les dernières technologies pour détecter et neutraliser la fraude alimentée par l'IA, restaurant ainsi la confiance dans le marché des services financiers.