Chargement...

L'intégration hâtive de l'IA par le gouvernement britannique alimente les préjugés et la discrimination

Dans cet article :

  • L’adoption rapide de l’IA au Royaume-Uni engendre des biais, soulevant des doutes sur sa maîtrise de la technologie.
  • Les modifications faciales de la police de Londres réduisent la précision pour les individus noirs ; L'IA du DWP signale davantage de Bulgares, ce qui risque de nuire financièrement.
  • Les utilisations abusives de l’IA mettent en évidence l’erreur humaine, appelant à de meilleures réglementations pour une utilisation plus équitable de l’IA par le gouvernement.

 

Ces dernières années, l’intégration rapide de la technologie de l’IA par le gouvernement britannique dans diverses procédures administratives a suscité de vives appréhensions parmi les critiques et les experts. Un rapport du Guardian a mis en lumière de multiples cas où l'incorporation de l'IA a entraîné des conséquences néfastes, notamment en ce qui concerne les préjugés raciaux et les pratiques discriminatoires, soulevant de profondes inquiétudes quant à la compréhension et à la gestion par le gouvernement des failles de la technologie.

L'utilisation de systèmes de reconnaissance faciale par la police métropolitaine de Londres a suscité de nombreuses critiques en raison de son parti pris apparent à l'égard des personnes à la peau plus foncée. Bien que les autorités soient conscientes de ses lacunes, les récentes modifications apportées pour accélérer l' dent des suspects ont eu un impact négatif sur la précision du système, en particulier pour les individus noirs. Les résultats du Laboratoire national de physique indiquent qu'une réduction de la sensibilité a conduit à une multiplication par cinq de la précision de l' dent des Noirs, par rapport à leurs homologues blancs.

Les outils gouvernementaux d’IA présentent des biais dans l’approbation des prestations et des licences de mariage.

Des cas de pratiques discriminatoires sont apparus au sein des systèmes gouvernementaux basés sur l'IA, conduisant à un traitement injuste de certaines nationalités. Le ministère du Travail et des Retraites (DWP) a fait l'objet de sévères critiques après qu'un système conçu pour détecter la fraude aux prestations sociales aurait signalé un nombre disproportionné de ressortissants bulgares, ce qui pourrait entraîner des suspensions injustifiées des prestations et des difficultés financières. La compréhension limitée du DWP des mécanismes internes de l'IA et sa réticence à divulguer des informations pertinentes ont exacerbé les inquiétudes concernant l'intégrité du système et ses biais potentiels.

De même, l'utilisation par le ministère de l'Intérieur de de l'IA pour dent les mariages frauduleux a donné lieu à un nombre important de faux positifs, affectant particulièrement les candidats de Grèce, d'Albanie, de Bulgarie et de Roumanie. Ces résultats soulignent le besoin urgent d’un contrôle et d’une transparence accrus dans la mise en œuvre par le gouvernement d’outils basés sur l’IA.

L’utilisation abusive de l’IA augmente les risques, démontrant le facteur humain

Des dent récents, notamment celui où un avocat américain a tenté d’utiliser un outil basé sur l’IA à des fins de référence juridique, pour ensuite découvrir des informations fabriquées, mettent en évidence les risques réels associés à une mauvaise utilisation et à une mauvaise compréhension de l’IA. Ces événements soulignent l’importance de l’erreur humaine et de la négligence dans le déploiement efficace de la technologie de l’IA.

Le manque d’informations complètes et de transparence au sein des institutions gouvernementales aggrave encore les défis associés à l’intégration de l’IA, empêchant l’ dent et la rectification des préjugés et des pratiques discriminatoires potentiels.

Alors que l’IA promet d’améliorer l’efficacité et la précision au sein de divers processus gouvernementaux, les développements actuels soulignent le besoin urgent de cadres réglementaires solides, d’une surveillance complète et d’une transparence accrue dans l’intégration de l’IA. Il est impératif de remédier aux défauts et aux préjugés inhérents aux systèmes d’IA afin de garantir des résultats équitables et justes pour toutes les personnes touchées par ces technologies.

L'évolution du discours autour de la mise en œuvre de l'IA par le gouvernement britannique reflète un besoin urgent d'une plus grande responsabilité et de mesures proactives pour atténuer les pratiques discriminatoires et les préjugés dans le domaine de la technologie de l'IA. Alors que les discussions se poursuivent, il reste crucial que les décideurs politiques et les parties prenantes collaborent pour établir des lignes directrices complètes qui donnent la priorité à l’équité et à la transparence, favorisant ainsi une utilisation plus inclusive et équitable de l’IA au sein des institutions gouvernementales.

Clause de non-responsabilité. Les informations fournies ne sont pas des conseils commerciaux. Cryptopolitan.com décline toute responsabilité pour les investissements effectués sur la base des informations fournies sur cette page. Nous tron vivement dent recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.

Lien de partage:

Les plus lus

Chargement des articles les plus lus...

Restez au courant de l'actualité crypto, recevez des mises à jour quotidiennes dans votre boîte de réception

Nouvelles connexes

McDonald's met fin à son partenariat d'IA avec IBM pour les commandes au volant
cryptopolite
Abonnez-vous à CryptoPolitan