Accord de la FTC avec Rite Aid – Leçons pour le déploiement sûr des outils d’IA
- La Commission fédérale du commerce (FTC) conclut un accord avec Rite Aid concernant des violations présumées de l'article 5, mettant en lumière les risques liés au déploiement de la biométrie faciale.
- L'action en application de la loi contre Rite Aid entraîne une interdiction de cinq ans de l'utilisation de la biométrie faciale et impose des exigences strictes pour tous les outils alimentés par la biométrie.
- Cet accord offre des leçons clés aux entreprises utilisant l'IA, en soulignant la nécessité de mesures de conformité proactives et d'un programme robuste de surveillance des systèmes biométriques.
Dans un développement majeur du 19 décembre 2023, la Federal Trade Commission (FTC) a résolu une action en application de la loi contre le géant de la vente au détail Rite Aid, mettant en lumière des informations critiques pour les entreprises naviguant dans le domaine complexe des biométries et des outils d’intelligence artificielle (IA). L’accord, déclenché par des violations présumées de la Section 5 liées à l’utilisation par Rite Aid de la biométrie faciale, souligne les risques accrus et la surveillance entourant le déploiement commercial de technologies avancées.
L’intervention de la FTC souligne la nécessité urgente pour les entreprises de réévaluer leurs stratégies d’utilisation des biométries et des outils d’IA. Les conséquences de l’accord Rite Aid offrent une feuille de route pour gérer l’évolution du paysage de la surveillance réglementaire, en particulier concernant les risques associés aux faux positifs et aux préjudices potentiels pour les consommateurs, en particulier les clients issus de minorités.
Perspective historique
Rite Aid, une chaîne de pharmacies de vente au détail bien connue, s’est retrouvée impliquée dans des procédures juridiques lorsque la FTC a exprimé des préoccupations concernant son utilisation de la biométrie faciale pour identifier et dissuader les individus soupçonnés d’avoir une intention criminelle. La FTC a allégué que l’approche de Rite Aid, reposant sur des alertes déclenchées par le système biométrique, manquait de garanties raisonnables, conduisant à des faux positifs et présentant un risque accru pour les clients issus de minorités.
La Commission a également invoqué une autre revendication au titre de la Section 5, pointant du doigt l’incapacité de Rite Aid à se conformer à un ordre de 2010, qui exigeait une diligence dans la sélection des prestataires de services, l’obtention d’assurances contractuelles et le maintien d’un programme écrit de sécurité de l’information.
Spécifications de l’accord
Pour résoudre la question, Rite Aid a consenti à un Ordre convenu imposant des exigences et des restrictions strictes :
Interdiction des biométries faciales – Rite Aid fait face à une interdiction de cinq ans d'utilisation de toute biométrie faciale.
Programme de surveillance des systèmes biométriques – L'entreprise doit établir un programme complet, couvrant les évaluations des risques avant le déploiement, les évaluations continues et les sauvegardes contre les risques identifiés pour les consommateurs.
Désaisissement des données et algorithmiques – Rite Aid doit supprimer toutes les données dérivées d'une utilisation impropre des biométries faciales et notifier les tiers de faire de même.
Programme de sécurité de l'information – En plus du programme de surveillance des systèmes biométriques, Rite Aid doit mettre en œuvre un programme de sécurité de l'information plus large, validé par des évaluations indépendantes de tiers.
Évaluation et implications clés
L’affaire Rite Aid sert de réveil pour les entreprises engagées dans ou prévoyant d’utiliser des biométries ou des outils d’IA. Elle fournit des informations précieuses sur les domaines d’attention de la FTC, jetant les bases d’une approche proactive pour atténuer les risques juridiques. L’accord souligne l’engagement de la Commission à examiner attentivement les biométries et l’IA, signalant la nécessité pour les organisations de consacrer des ressources à des mesures de conformité et à des programmes de gouvernance.
Les principales conclusions de l’action en application de la loi contre Rite Aid incluent l’importance de mener des évaluations des risques approfondies, de mettre en œuvre des programmes de surveillance robustes et de répondre aux préoccupations spécifiques soulevées par la FTC. En identifiant et en traitant ces problèmes de manière proactive, les entreprises peuvent naviguer dans le paysage juridique en évolution entourant les technologies biométriques et l’IA.
Prochaines étapes – Conseils pratiques de conformité pour le déploiement d’outils d’IA
L’affaire Rite Aid met non seulement en lumière les pièges à éviter, mais fournit également une feuille de route pour les entreprises souhaitant améliorer leurs programmes de conformité. Les conseils pratiques incluent :
Programme de surveillance des systèmes biométriques – Suivre le plan de la FTC, intégrant des évaluations des risques, des évaluations continues et des contrôles adaptés aux risques identifiés.
Mécanismes d’information : Mettre en place des mécanismes d’information clairs et transparents, tant individualisés que généraux, pour informer les personnes concernées sur les systèmes biométriques et les actions potentielles défavorables.
Conservation/Destruction des données – Établir et respecter un calendrier de conservation des données biométriques, assurant la suppression permanente des informations sensibles.
Mécanisme de plainte des consommateurs – Créer des voies pour que les consommateurs soumettent des plaintes liées aux sorties des systèmes biométriques, favorisant un processus réactif pour l'enquête et la résolution.
Programme de sécurité de l'information –Au-delà des biométries, mettre en œuvre un programme complet de sécurité de l'information, régulièrement validé par des évaluations de tiers.
Alors que les entreprises luttent avec le paysage évolutif des biométries et de la réglementation de l'IA, l'accord de Rite Aid offre un modèle pour une conformité proactive. La question est maintenant de savoir comment les entreprises s'adapteront à ces leçons, et quelles mesures supplémentaires elles prendront pour assurer le déploiement responsable des technologies avancées face à une surveillance réglementaire accrue ?
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
