La demande de transparence en matière d'IA augmente alors que Howso s'attaque à l'IA « boîte noire »

Dans un monde de plus en plus dominé par l'intelligence artificielle (IA), la transparence des processus décisionnels est devenue une préoccupation majeure. Mike Capps, cofondateur de Howso, une entreprise de Raleigh spécialisée dans l'IA explicable, affirme que, tout comme on examine attentivement la composition de son petit-déjeuner, on devrait exiger la transparence des systèmes d'IA qui influencent des aspects essentiels de notre vie, tels que la santé et l'éducation.

L'essor de l'IA boîte noire

L'omniprésence de l'IA dans nos vies a conduit à son utilisation dans des processus décisionnels cruciaux, allant des interventions médicales et des octrois de crédit aux décisions de libération conditionnelle. Cependant, Capps souligne que l'opacité de nombreux systèmes d'IA existants, souvent qualifiés de « boîte noire », constitue un problème majeur 

Ces systèmes rendent des jugements définitifs sans fournir d'explications claires sur la manière dont ces conclusions sont atteintes, laissant ainsi les utilisateurs et les parties prenantes dans l'ignorance des critères de prise de décision.

Howso, anciennement Diveplane, a été fondée par Mike Capps en 2018 avec pour mission de remettre en question la prédominance de l'IA « boîte noire ». Son approche unique de l'IA, appelée « IA attribuable », la distingue des autres entreprises. 

L'IA attribuable permet aux utilisateurs de tracune décision jusqu'à des points de données précis, rendant ainsi le processus décisionnel transparent et compréhensible. Par exemple, si une recommandation d'intervention chirurgicale est formulée, le système de Howso peut identifier les 17 points de données les plus importants ayant influencé cette décision, offrant clarté et traçabilité.

Le moteur d'IA de Howso trouve des applications dans de nombreux secteurs. L'un de ses clients, Scanbuy, collabore avec de grandes enseignes de distribution pour exploiter l'outil de Howso dédié à la connaissance client. Cela permet aux distributeurs de prédire les préférences des consommateurs de manière précise et explicable. 

Il convient de noter que des établissements d'enseignement comme NC State et UNC ont également adopté la technologie de Howso pour des projets spécifiques, soulignant ainsi la demande croissante d'une IA transparente dans le milieu universitaire.

La décision de rendre open source le moteur d'IA de Howso en septembre dernier souligne l'engagement de l'entreprise en faveur de la transparence. Cette initiative permet aux utilisateurs de concevoir leurs propres plateformes d'IA explicables, étendant ainsi la portée de cette technologie.

Clients et partenariats notables

Parmi les clients prestigieux de Howso figurent des géants du secteur comme Mastercard et Mutua de Madrileña, une compagnie d'assurance espagnole. De plus, le Département de la santé comportementale et des services de développement de Virginie a utilisé la technologie de Howso pour optimiser ses processus décisionnels. Ces partenariats témoignent de la large applicabilité et de la forte demande pour les systèmes d'IA qui privilégient la transparence et la responsabilité.

Capps souligne l'importance cruciale de la transparence en matière d'IA, en établissant un parallèle avec l'étiquetage des produits alimentaires. De même que les consommateurs se fient aux étiquettes nutritionnelles pour faire des choix éclairés concernant leur alimentation, les individus devraient exiger une transparence similaire quant aux décisions prises par l'IA qui ont un impact sur leur vie. Il ne s'agit pas seulement d'une question de confiance, mais aussi d'une exigence fondamentale pour un développement logiciel responsable.

Les pièges de l'IA boîte noire

Comme le souligne Capps, l'IA « boîte noire » pose plusieurs problèmes inhérents. Premièrement, elle soulève des questions quant à la fiabilité et à la responsabilité des systèmes d'IA. Si le fonctionnement interne d'un système d'IA est opaque, il devient difficile d'dentet de corriger les bogues ou les erreurs. Par conséquent, le risque de conséquences imprévues ou de biais demeure, engendrant des coûts de remplacement considérables.

L'une des applications particulièrement cruciales de l'IA, où la transparence est essentielle, concerne les décisions de libération conditionnelle. Ces décisions s'appuient souvent sur des données historiques susceptibles de contenir des biais. Ces biais peuvent se perpétuer lorsque l'IA est utilisée à grande échelle pour gagner en efficacité, ce qui risque d'entraîner des résultats injustes et discriminatoires. Capps souligne que, si la volonté de rationaliser et d'accélérer les procédures judiciaires est louable, cela ne doit pas se faire au détriment de la perpétuation des préjugés raciaux.