Des défenseurs de l'éthique de l'IA proposent des systèmes de licences et des mécanismes de signalement pour prévenir les scandales du type de ceux qui ont touché la Poste

Suite au scandale retentissant de la Poste, la British Computer Society (BCS) a mis en place des mesures proactives pour prévenir de telles injustices. Avec l'intégration croissante de l'intelligence artificielle (IA) dans divers secteurs, les questions d'éthique et de responsabilité sont devenues primordiales. 

Reconnaissant le rôle crucial des professionnels de l'IA dans la construction des résultats sociétaux, BCS préconise la mise en place d'un cadre d'agrément et de mécanismes de signalement robustes afin de se prémunir contre les pratiques contraires à l'éthique.

L'agrément des professionnels de l'IA pour une responsabilité éthique

BCS propose la mise en place d'un système d'agrément similaire à celui des professionnels de la santé afin de garantir la transparence et le respect des principes éthiques parmi les spécialistes de l'IA. Rashik Parmar, MBE, PDG de BCS, souligne l'importance de responsabiliser les professionnels de l'IA quant à leurs actions, compte tenu de l'impact profond de l'IA sur la vie des individus. 

Cette initiative vise à renforcer la confiance dans le déploiement d'IA en soumettant les professionnels de l'IA à undent cadre éthique

Voies d'alerte : Respect des normes éthiques dans la mise en œuvre de l'IA

Au cœur de la stratégie de BCS se trouve la mise en place de mécanismes d'alerte efficaces au sein des organisations afin de lutter contre l'utilisation non éthique de l'IA. Consciente que les décisions clés en matière de développement technologique sont souvent prises par des dirigeants non techniques, Parmar souligne l'importance de donner aux technologues les moyens d'exprimer leurs préoccupations sans crainte de représailles. 

Cette approche proactive vise à atténuer le risque de pratiques discriminatoires, telles que des décisions d'embauche biaisées ou le déploiement de technologies de surveillance ayant des conséquences sociétales néfastes.

Leçons tirées du scandale de la Poste

Ces initiatives trouvent leur origine dans la grave erreur judiciaire révélée par le scandale de la Poste. L'acquisition du système comptable défectueux Horizon en 1999 a entraîné la condamnation injustifiée de centaines de directeurs d'agences postales locales, dévastant des vies et des communautés. 

L'utilisation abusive de preuves informatiques par des personnes non spécialisées en informatique a mis en évidence le besoin crucial d'un contrôle éthique et d'une responsabilisation dans la mise en œuvre de l'IA. Les conséquences tragiques du scandale de la Poste américaine rappellent de façon poignante les répercussions considérables des interventions technologiques non encadrées.