Le déficit démocratique dans la prise de décision par l'IA : Qui détient le pouvoir ?

Dans un monde de plus en plus façonné par l'intelligence artificielle (IA), beaucoup se demandent qui a décidé d'inaugurer cette ère de disruption. Avez-vous, comme tant d'autres, manqué le mémo annonçant l'entrée triomphale de l'IA dans nos vies ? La vérité est que les décisions pivots concernant le développement et le déploiement de l'IA ont été largement orchestrées par un petit groupe, avec une participation minimale du reste de la population. Ce manque d'implication démocratique est préoccupant et pourrait entraîner un mécontentement croissant.

Le déséquilibre des pouvoirs : quelques-uns pilotant l'IA

Une poignée de chercheurs en IA sont les architectes de cette révolution technologique, animés par la conviction que l'IA détient le potentiel d'un progrès humain sans précédent. Ils ont pris sur eux de repousser les limites des capacités de l'IA, mais en ce faisant, ils ont ouvertement reconnu leur contrôle décroissant sur la technologie et ses conséquences potentielles. Cela soulève la question : Un petit groupe d'experts devrait-il avoir l'autorité de guider la société sur une trajectoire potentiellement périlleuse ?

C'est comme si on nous avait demandé ce que nous voulions pour le dîner et que nous avions répondu « thaï », pour ensuite nous présenter un choix entre une pizza au pepperoni et une pizza au bacon canadien. Ce n'est pas un vrai choix ; c'est une forme de gazage démocratique. Une démocratie fonctionnelle ne devrait pas permettre à une poignée de scientifiques informatiques de prendre des décisions qui pourraient affecter de manière irréversible les générations à venir.

Consulter les titans de la tech : Les voix manquantes de la démocratie

En plus de laisser le destin de l'IA entre les mains d'un groupe restreint de laboratoires d'IA, nos élus cherchent désormais des conseils sur la meilleure façon de réglementer cette technologie émergente auprès des mêmes leaders technologiques non représentatifs et non élus. Les récents titres de l'actualité à Washington, D.C., ont été dominés par le sénateur X consultant le leader technologique Y. Absents de manière conspicuous de ces réunions se trouvent les représentants des communautés, tant étrangères qu'intérieures, qui subiront le poids des conséquences de l'IA, qu'elles soient bonnes, mauvaises ou laides.

Il est important de noter qu'une part significative de la population estime que l'IA n'aurait pas dû être introduite à cette échelle, ou peut-être pas à ce stade. Si vous partagez cette préoccupation, vous pourriez regretter qu'il soit déjà trop tard pour changer de cap. Nous nous trouvons au stade du « pepperoni ou bacon canadien » dans la prise de décision, où notre influence sur la trajectoire de l'IA est au mieux minimale. De plus, si nous parvenons à arrêter le déploiement des modèles d'IA, il existe un risque que d'autres pays, comme la Chine ou d'autres adversaires perçus, continuent d'avancer dans leurs propres modèles et potentiellement les utiliser contre nous dans de futurs conflits.

Cependant, les arguments en faveur d'un développement de l'IA sans entraves sont loin d'être convaincants. Beaucoup préféreraient vivre dans un États-Unis caractérisé par des communautés fortes, un travail significatif, la pensée critique et la confiance dans les institutions sociales, plutôt que dans un pays qui se contente de mener le monde en IA. En fait, la version précédente des États-Unis est plus susceptible de survivre et de surpasser toute autre nation qui place une foi excessive dans la technologie comme clé de l'épanouissement humain.

Pour remédier au déficit démocratique dans la prise de décision concernant l'IA, nous devons changer le récit : passer de « Comment façonnons-nous le développement de l'IA ? » à « Quand et dans quelles conditions devrions-nous autoriser des utilisations limitées de l'IA ? » En attendant, il est raisonnable que nos fonctionnaires cherchent des conseils auprès des experts et leaders de l'IA. Cependant, en ce qui concerne la détermination de la manière dont l'IA transforme notre société, le pouvoir devrait ultimement reposer sur les électeurs, et non sur les PDG de la tech ou un petit groupe de chercheurs. Il est temps d'adopter une approche plus inclusive et démocratique pour façonner notre avenir piloté par l'IA.