La RBI élabore des règles de gouvernance de l'IA exigeant des interrupteurs d'urgence et une supervision au niveau du conseil pour les banques
- La Banque de réserve de l'Inde a proposé, le 24 juin, un projet de règles obligeant toutes les banques et entités financières réglementées à mettre en œuvre des cadres de gouvernance de l'IA approuvés par le conseil, incluant des interrupteurs d'urgence obligatoires pour tout modèle d'IA et une supervision humaine des décisions automatisées.
- Les lignes directrices, ouvertes aux commentaires jusqu'au 24 juillet, exigent également une classification des modèles selon leur niveau de risque et rendent les banques responsables des systèmes d'IA tiers qu'elles déploient.
- Pour les participants du marché crypto, ces règles pourraient affecter la manière dont les banques utilisent l'IA dans leurs systèmes de conformité et de surveillance des transactions servant de passerelles fiduciaires.
La Reserve Bank of India (RBI) a publié des lignes directrices provisoires qui obligeraient les banques et autres entités financières réglementées à adopter des structures mises en place pour gérer les risques liés à l'intelligence artificielle et aux modèles d'apprentissage automatique.
Ces systèmes de gestion des risques proposés incluront des interrupteurs d'urgence obligatoires qui arrêteront instantanément tout système d'IA produisant des sorties nuisibles.
Les intérêts de la RBI
Les règles et lignes directrices proposées pour atténuer ces risques de l'IA élaborées par la RBI sont ouvertes aux commentaires du public jusqu'au 24 juillet. Ces lignes directrices couvrent chaque modèle utilisé dans les opérations bancaires, allant des calculateurs de feuilles de calcul de base aux systèmes d'IA générative complexes.
Les banques devraient tenir des inventaires de tous les modèles utilisés dans leurs opérations, évaluer les risques tant au niveau individuel qu'au niveau de l'entreprise régulièrement, et prendre des mesures correctives lorsque les risques dépassent les seuils acceptables. Les modes d'action corrective peuvent varier de contrôles plus stricts à la mise hors service complète du modèle, avec des rapports détaillés sur les risques ayant conduit à de telles actions.
Le cadre implique également un système de classification des risques divisé en plusieurs niveaux. Chaque modèle, quelle que soit sa complexité, doit se voir attribuer un niveau de risque particulier, ainsi qu'une supervision humaine. Les modèles à haut risque nécessiteront l'approbation du Comité de gestion des risques au niveau du conseil d'administration.
Interrupteurs d'urgence et supervision humaine pour les modèles d'IA
On s'attend à ce que les banques intègrent des mécanismes de remplacement, de suspension et de désactivation dans chaque déploiement de modèle d'IA afin que tout modèle puisse être arrêté immédiatement s'il produit des résultats erronés ou nuisibles.
La RBI a également souligné ce qu'elle a appelé un « biais d'automatisation », qui est le risque que les employés des banques approuvent les sorties de l'IA sans exercer de jugement indépendant. Pour les systèmes d'IA destinés aux clients, les lignes directrices obligeront les banques à informer leurs clients lorsqu'ils interagissent avec un modèle d'IA et à leur donner la possibilité de parler à un humain à tout moment.
Les modèles d'IA générative qui interagissent avec les clients ou les utilisateurs externes seront soumis à des exigences de cybersécurité supplémentaires en vertu du projet, selon Reuters.
Les fournisseurs tiers d'IA sont soumis à un examen attentif
Les banques restent pleinement responsables de tout modèle d'IA qu'elles choisissent d'utiliser, qu'il soit construit en interne ou acheté auprès d'un fournisseur. La RBI a également déclaré que la concentration de la chaîne d'approvisionnement était l'une de ses préoccupations, soulignant le risque que les banques deviennent trop dépendantes d'un petit nombre de fournisseurs d'IA mondiaux.
Une validation indépendante est requise pour tous les modèles d'IA tiers. Les banques doivent également définir des seuils pour les modèles d'IA et d'apprentissage automatique, s'assurant qu'elles peuvent articuler en termes clairs pourquoi un modèle a produit une sortie donnée.
La RBI resserre sa position en matière de gouvernance technologique depuis un certain temps. Ces lignes directrices provisoires représentent la première fois que la banque centrale de l'Inde propose une structure de responsabilité au niveau du conseil spécifiquement pour les risques liés aux modèles d'IA dans l'ensemble du secteur financier.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Opeyemi Olanrewaju
Opeyemi se spécialise dans la création et l'amélioration de contenus de haute qualité centrés sur la cryptomonnaie, les marchés financiers mondiaux et l'économie. Il est diplômé de l'Université d'Ibadan avec un diplôme de médecin (MBBS). Il a travaillé comme rédacteur en chef de la publication éditoriale de son collège et précédemment chez CFA. Pendant plus de six ans, il a contribué à préserver l'unicité en tant que rédacteur en charge de l'actualité chez Cryptopolitan.
