Pourquoi la surveillance éthique par IA n'est-elle pas réalisable, comme mettre du rouge à lèvres sur un cochon ?

Résumé TL;DR

• Rumman Chowdhury estime que la surveillance éthique par IA n'est pas réalisable, déclarant : « On ne peut pas mettre du rouge à lèvres sur un cochon. »
• Elle plaide pour la création d'un conseil de gouvernance mondial externe pour superviser les technologies IA et aborder des problèmes tels que le capitalisme de la surveillance.
• Chowdhury souligne l'importance de la responsabilité et de la collaboration dans la gouvernance de l'IA, mettant en garde contre la surrégulation tout en abordant les défis éthiques.

Lors d'une récente interview, Rumman Chowdhury, ancienne directrice de l'éthique, de la transparence et de la responsabilité en apprentissage automatique chez Twitter, a exprimé son scepticisme quant à la possibilité d'une surveillance artificielle intelligente (IA) éthique. S'exprimant à l'École des sciences sociales de l'Université de New York, Chowdhury a déclaré : « On ne peut pas mettre du rouge à lèvres sur un cochon. Je ne pense pas qu'une surveillance éthique puisse exister. »

Chowdhury, connue pour son travail en éthique de l'IA, a mis en lumière ses préoccupations concernant la montée du capitalisme de la surveillance, qu'elle estime intrinsèquement raciste et qui ne devrait pas être soutenu. Dans un éditorial pour Wired, elle a plaidé pour la création d'un conseil de gouvernance mondial externe pour superviser les technologies IA, abordant des problèmes tels que le capitalisme de la surveillance, la perturbation de l'emploi et la désinformation nucléaire. Chowdhury a souligné la nécessité d'un conseil diversifié qui n'est lié à aucune institution unique et qui représente une perspective mondiale.

Défis de responsabilité et de réglementation dans l'industrie de l'IA

Selon Chowdhury, la responsabilité est un aspect crucial qui manque souvent dans l'industrie de l'IA. Elle a souligné que l'analyse des risques internes au sein des entreprises a tendance à négliger les considérations morales. Lorsque le risque d'échec ou de préjudice à la réputation devient significatif, a-t-elle noté, les organisations ont souvent tendance à plier les règles en leur faveur. Chowdhury estime que relever ces défis nécessite un effort collectif, impliquant diverses parties prenantes et une coopération à l'échelle mondiale.

Tout en reconnaissant que la réglementation est nécessaire, Chowdhury a mis en garde contre la surréglementation, qui pourrait entraîner une surcorrection des modèles et un échec à aborder les problèmes sous-jacents. Elle a souligné la nature complexe de la définition de ce qui est toxique ou haineux, affirmant qu'il s'agit d'un voyage continu qui nécessite une évaluation et une adaptation continues.

Rumman Chowdhury estime que la technologie ne devrait pas se séparer de l'humanité

Le travail de Chowdhury vise à combler le fossé entre les technologues et les décideurs politiques, plaidant pour une meilleure compréhension de l'impact humain de la technologie. Elle croit que la technologie ne devrait pas se séparer de l'humanité, mais devrait plutôt être exploitée pour remédier aux défauts humains et améliorer la société.

Rumman Chowdhury, une figure éminente dans le domaine de l'éthique de l'IA, a toujours été intriguée par la complexité et l'imprévisibilité du comportement humain. Pendant ses études de premier cycle en sciences politiques au MIT, elle a réalisé le potentiel d'utiliser les modèles et les données plus efficacement dans les organisations à but non lucratif. Cela l'a amenée à poursuivre une maîtrise en méthodes quantitatives à l'Université Columbia, où elle a affiné ses compétences.

Le travail de Chowdhury l'a amenée dans divers endroits à travers le monde au cours du seul mois dernier. De l'Espagne à San Francisco, de Boston à New York, et des conférences à venir à Vienne et Pittsburgh, elle est activement engagée à aborder des questions pressantes liées à l'IA, telles que la cybersécurité, la désinformation nucléaire et les plateformes d'apprentissage des langues comme Duolingo.

Exploitez les structures d'incitation et décentralisez le pouvoir.

Au cœur de l'approche de Chowdhury se trouve un dictum simple mais puissant : écoutez, communiquez, collaborez. Cependant, elle reconnaît que même lorsque les dirigeants de l'industrie expriment leur engagement à prévenir les dommages causés par l'IA, il peut souvent y avoir un écart entre les paroles et les actions. Elle observe que lors des périodes de scrutin accru, certaines entités peuvent appeler à la réglementation tout en employant simultanément des tactiques de lobbying pour entraver le passage des lois réglementaires.

L'approche de Chowdhury en matière d'éthique et de gouvernance de l'IA est fondée sur la compréhension que les gens, contrairement aux machines, ont des motivations et des priorités diverses. Opérer un changement significatif nécessite d'exploiter les structures d'incitation et de décentraliser le pouvoir. Elle remet en question la notion d'un récit de héros unique et souligne l'importance de la collaboration et de la prise de décision collective dans la façonnement de l'avenir de l'IA.