409 000 marqueurs de fraude peuvent-ils être tenus responsables lorsque l’IA ferme des comptes bancaires ?

L’utilisation accrue de l’intelligence artificielle (IA) et la sensibilité accrue concernant la prévention de la fraude dans le secteur bancaire ont suscité des préoccupations quant à la fermeture sans préavis de comptes bancaires de personnes innocentes. Bien que des cas à haut profil impliquant des politiciens aient attiré l’attention sur le problème, le grand public connaît également la fermeture soudaine de ses comptes en raison de problèmes liés à la manière dont les banques se protègent contre les risques de fraude. 409 000 marqueurs de fraude téléchargés dans la plus grande base de données de fraude au cours des dernières années peuvent potentiellement affecter n’importe quel individu. Les processus de prise de décision automatisée destinés à réduire les coûts sont devenus dévastateurs pour les personnes innocentes qui se retrouvent avec leurs comptes bancaires fermés.

Le rôle des marqueurs de fraude

Pour prévenir les activités frauduleuses, les soupçons sont téléchargés dans des bases de données privées, que les banques consultent ensuite lors de l’évaluation des demandes de prêt, de l’ouverture de nouveaux comptes ou de l’examen des comptes existants. Bien que les marqueurs de fraude jouent un rôle vital dans l’arrêt des fraudeurs, ils ne sont pas infaillibles, et des personnes innocentes peuvent parfois être affectées à tort par ces marqueurs. Les marqueurs sont censés être consultatifs, les banques effectuant des vérifications supplémentaires, mais une dépendance croissante à la prise de décision automatisée les a rendus plus influents en pratique.

L’utilisation croissante de processus automatisés, en particulier dans les examens de candidature, a limité l’élément humain dans la prise de décision. Les banques échouent souvent à regarder au-delà des résultats automatisés, conduisant à des fermetures de comptes et à des échecs de demandes de prêt sans expliquer suffisamment aux clients. Les banques invoquent la nécessité de protéger les enquêtes criminelles en cours comme raison de ne pas divulguer d’informations sur les marqueurs de fraude. Le nombre de marqueurs de fraude augmente, avec plus de 409 000 marqueurs téléchargés dans la plus grande base de données de fraude au cours des dernières années, potentiellement affectant de nombreuses personnes.

Impact potentiel de l'approche de tolérance zéro face au risque

L'introduction proposée d'une nouvelle infraction consistant à ne pas prévenir la fraude, via le projet de loi sur la criminalité économique et la transparence des entreprises, pourrait encore exacerber la situation. Les banques pourraient adopter une approche de tolérance zéro, renonçant à leurs clients à moins d'être certaines à 100 % de leur intégrité. Cette prudence pourrait conduire à priver inutilement des personnes innocentes de services bancaires.

Bien que des affaires à grand retentissement impliquant des personnalités politiques aient attiré l'attention sur ce problème, les processus d'évaluation des risques sont similaires pour le grand public. Les banques prudents s'appuient sur des processus automatisés pour filtrer les clients, y compris ceux qui sont considérés comme des personnes politiquement exposées (PPE). L'Autorité de conduite financière (FCA) examine déjà la manière dont les banques traitent les PPE, le ministre de la Cité, Andrew Griffith, exhortant le régulateur à faire de cette question une priorité afin de garantir un accès équitable aux services bancaires pour les hommes politiques.

La nécessité d'une évaluation équilibrée des risques de fraude

Il existe un appel à une approche plus équilibrée de l'évaluation des risques de fraude, permettant une vérification de la réalité et de la flexibilité dans la prise de décision. Les systèmes automatisés et l'IA doivent être considérés comme des outils plutôt que comme la seule base de la prise de décision. Plus de temps et de réflexion devraient être consacrés à l'évaluation des cas individuels et à la réduction de la dépendance excessive aux processus automatisés.

Cifas, le service de prévention de la fraude, déclare que les marqueurs qu'il fournit sont basés sur des preuves solides et répondent à des normes strictes de preuve. Ils soulignent qu'un marqueur déclenche une enquête supplémentaire par les banques membres, qui prennent la décision finale d'ouvrir ou de fermer un compte. Cifas assure la transparence de ses opérations et offre un processus clair aux consommateurs pour accéder à leurs données sur la base de données ou faire appel d'un marqueur.

L'utilisation croissante de l'IA et de la prise de décision automatisée dans la prévention de la fraude a involontairement conduit à ce que des personnes innocentes perdent l'accès à leurs comptes bancaires. Bien que les marqueurs de fraude jouent un rôle essentiel dans la détection et la prévention de la fraude, la dépendance aux systèmes automatisés doit être équilibrée par une supervision humaine et la prise en compte des circonstances individuelles. Trouver le juste équilibre est crucial pour garantir un traitement équitable et l'accès aux services bancaires tout en luttant efficacement contre les risques de fraude.