Le président de Microsoft propose le KYC pour lutter contre l’abus de l’IA

Lors d’une comparution devant la Commission judiciaire du Sénat des États-Unis, Brad Smith, président de Microsoft, a discuté du rôle des politiques de connaissance du client (KYC) dans le renforcement de la sécurité nationale, face aux préoccupations croissantes concernant l’abus de l’intelligence artificielle (IA) par des acteurs étrangers. Smith a souligné l’importance des politiques KYC, qui sont depuis longtemps une pratique standard dans la finance traditionnelle, comme moyen d’améliorer la responsabilisation et d’atténuer les menaces liées à l’IA. Smith a souligné l’engagement de Microsoft en faveur des politiques KYC au sein de l’industrie de l’IA.

Microsoft veut aider les fournisseurs de services IA

Le président de Microsoft a également affirmé qu’ils pourraient aider les fournisseurs de services IA à identifier et à contrer les abus potentiels de leurs systèmes. En mettant en œuvre des mesures KYC, les entreprises peuvent s’assurer d’avoir une connaissance complète de leurs clients, leur permettant ainsi de prévenir efficacement les activités malveillantes. La discussion lors de l’audition devant la Commission du Sénat a également abordé les dangers associés à l’IA, en particulier son potentiel de propagation de désinformation et d’interférence dans les élections. Smith a souligné comment les politiques KYC pourraient jouer un rôle pivot dans la lutte contre l’abus de l’IA, en particulier dans les questions liées à la sécurité nationale.

Répondant aux préoccupations soulevées par la sénatrice Marsha Blackburn du Tennessee concernant l’ingérence étrangère, Smith a insisté sur le fait que toutes les entreprises impliquées dans le développement de technologies IA devraient prendre des mesures proactives pour empêcher l’abus des outils d’IA générative par les gouvernements étrangers. Le témoignage de Smith devant la Commission du Sénat marque ses efforts continus pour relever les défis liés à l’IA. Plus tôt en mai, il avait exhorté les législateurs à accélérer l’établissement de réglementations sur l’IA et a appelé les entreprises à assumer une plus grande responsabilité dans la protection des utilisateurs et des technologies.

Cela incluait son soutien à l’idée que les développeurs devraient obtenir des licences avant de déployer des outils IA. En juin, les Nations Unies ont exprimé leurs inquiétudes concernant l’utilisation de deepfakes générés par l’IA dans les zones de conflit, ce qui peut contribuer à la propagation de la haine. Smith a également offert des éclairages sur les observations de Microsoft concernant les activités mondiales liées à l’IA. Tout en reconnaissant des activités IA substantielles provenant de la Chine et de l’Iran, il a identifié la Russie comme l’acteur le plus prolifique sur la scène mondiale, ayant investi des milliards dans une opération d’influence complète.

Défis mondiaux de l’IA et solutions proactives

Smith a souligné que ces activités s’étaient intensifiées suite à l’invasion de l’Ukraine par la Russie en 2022, avec un focus spécifique sur l’affaiblissement de la confiance du public envers les États-Unis. De plus, Smith a noté que les activités d’influence de la Russie s’étendaient au-delà des États-Unis et étaient également évidentes dans le Pacifique Sud et en Afrique, soulignant l’échelle mondiale du problème. Les politiques de connaissance du client (KYC), qui sont une constante dans le secteur bancaire depuis les années 1980, ont retrouvé une signification renouvelée dans le contexte du Web3 et des technologies numériques. Dans l’espace Web3, les politiques KYC sont devenues une préoccupation centrale en raison des niveaux variables de données personnelles requis lors de l’ouverture d’un compte.

Il est notable que les plateformes de crypto-monnaies basées aux États-Unis comme Coinbase, Binance.US, Kraken et Gemini aient adopté des politiques KYC et mis en œuvre des mesures telles que le blocage géographique pour restreindre l’accès depuis des régions interdites. Le soutien de Smith aux politiques KYC dans le secteur de l’IA coïncide avec l’adoption grand public de la technologie IA. Avec des centaines de plateformes d’IA générative disponibles sur les appareils mobiles et les ordinateurs de bureau, garantir la responsabilisation et l’utilisation responsable est devenu primordial. En plus de plaider en faveur des mesures KYC, Smith a suggéré que l’IA pourrait également servir d’outil défensif pour détecter l’utilisation illicite de l’IA.

Microsoft, a-t-il mentionné, a réalisé des investissements substantiels dans ce domaine pour identifier et contrer l’abus de la technologie IA. Enfin, Smith a insisté sur la responsabilité partagée des acteurs de l’industrie et des décideurs politiques pour relever les défis posés par l’IA. Il a appelé les gouvernements à élever leurs normes et à s’abstenir d’exploiter la technologie IA pour interférer dans les affaires d’autres nations, en particulier dans le contexte des élections étrangères. Le témoignage de Smith a servi d’appel à l’action convaincant pour l’industrie et les décideurs politiques de collaborer afin d’assurer une utilisation responsable et sécurisée de l’IA dans un monde de plus en plus interconnecté.