Qui rendra compte de l'éthique de l'IA et de son engagement envers les responsabilités sociales réelles ?

Les récentes controverses entourant l'intelligence artificielle (IA) ont ravivé le débat sur la responsabilité de garantir le développement et le déploiement éthiques de l'IA. À mesure que l'IA générative comme ChatGPT devient de plus en plus courante, les questions concernant l'engagement de l'industrie technologique envers l'éthique de l'IA ou l'innovation responsable continuent de planer.

Le coût caché de l'IA

Des enquêtes ont révélé qu'OpenAI, une entreprise d'IA de premier plan soutenue par Microsoft, s'appuyait sur des sous-traitants étrangers peu rémunérés pour gérer la tâche sensible de modération de contenu, un composant crucial dans le développement de systèmes « sûrs » comme ChatGPT. Ces sous-traitants, basés au Kenya, étaient payés seulement 2 dollars de l'heure pour étiqueter des textes et des images troublants, une tâche qui aurait causé des traumatismes psychologiques importants. Suite à la révélation de l'impact de ce travail, le partenaire de sous-traitance d'OpenAI a rompu les liens avec l'entreprise.

Cette enquête a mis en lumière la dépendance de l'industrie technologique envers la main-d'œuvre bon marché du monde entier pour effectuer les tâches les plus exigeantes qui sous-tendent les avancées de l'IA. Cela survient alors que des équipes de sécurité de l'IA de premier plan sont dissoutes, malgré la rhétorique élevée de l'industrie sur l'éthique.

La réalité derrière le discours de relations publiques

Plusieurs figures de premier plan de l'industrie technologique ont appelé à une pause dans le développement de l'IA jusqu'à ce que des réglementations appropriées soient mises en place. Cependant, certains experts soutiennent que s'en remettre uniquement aux décideurs politiques et aux entreprises pour façonner l'avenir de l'IA est une erreur, car cela exclut des perspectives clés. Dr Alison Powell de l'Ada Lovelace Institute a souligné que le discours actuel se concentre trop sur le potentiel de l'intelligence artificielle générale à surpasser la cognition humaine, plutôt que de traiter les réalités du présent.

« C'est nuisible car cela se concentre sur un monde imaginaire plutôt que sur le monde réel dans lequel nous vivons », a déclaré Powell. Elle soutient que les capacités de prise de décision souvent attribuées à l'IA négligent les responsabilités sociales réelles qui accompagnent un tel pouvoir.

Le chercheur d'Oxford Abid Adonis a également noté que les voix des groupes marginalisés, directement affectés par l'IA, sont conspicuement absentes du débat. « Il est important d'entendre ce que disent les groupes marginalisés car ils sont absents de la discussion », a déclaré Adonis.

Les lacunes de l'« IA éthique »

Il existe déjà des preuves de biais algorithmiques et de discrimination dans les systèmes d'IA actuellement en usage, de la technologie de reconnaissance faciale aux algorithmes utilisés dans les évaluations immobilières et de prêt. Malgré les affirmations élevées des entreprises technologiques concernant les principes éthiques, leurs actions racontent souvent une histoire différente.

Les modèles génératifs comme ChatGPT, entraînés sur un ensemble limité de données Internet, héritent inévitablement des biais présents dans ces données. Les capacités de raisonnement tant vantées de ces modèles s'avèrent souvent insuffisantes sous la scrutiny. Par exemple, il a été constaté que ChatGPT génère des affirmations manifestement fausses concernant de vraies personnes. Le manque de transparence dans la source des données commerciales utilisées pour l'entraînement de l'IA n'ajoute qu'à ces préoccupations.

Une perspective plus large sur l'éthique de l'IA

Le Dr Powell suggère qu'au lieu de considérer l'éthique comme un problème technique à résoudre, nous devrions examiner les contextes sociaux dans lesquels les préjudices se produisent. « Les IA sont des machines institutionnelles, des machines sociales et des machines culturelles », a-t-elle déclaré. Se concentrer uniquement sur l'ajustement des algorithmes ignore le fait que l'exclusion découle souvent des institutions et de la culture entourant la technologie.

Selon le chercheur Abid Adonis, un discours public fort et des normes joueront un rôle crucial dans la façon dont l'avenir de l'innovation sera façonné. Garantir la responsabilité signifie appliquer les lois existantes équitablement, plutôt que de simplement réglementer la technologie elle-même.

Le paradigme façonnera les couloirs de l'innovation

Abid Adonis, Chercheur

Alors que l'IA continue de gagner en importance, garantir qu'elle produit des résultats justes est une responsabilité qui doit être partagée entre les entreprises technologiques, les décideurs politiques, les chercheurs, les médias et le public. Cependant, le discours actuel est fortement biaisé en faveur de ceux qui ont le plus de pouvoir. Pour avancer, nous devons inclure une plus grande variété de perspectives sur les pièges potentiels de l'IA, afin de développer une technologie éthique qui répond véritablement aux besoins humains. Cela nous obligera à regarder au-delà du discours de relations publiques des grandes entreprises technologiques et à affronter les préjudices réels qui sont actuellement causés.

L'image à la une transmet les conditions de travail à haute pression et axées sur les délais qui caractérisent la dépendance de l'industrie technologique envers la main-d'œuvre bon marché.