Programmer des chatbots pour qu'ils ne produisent pas de contenu controversé constitue-t-il un problème de liberté d'expression ?

L'intelligence artificielle et son impact sur les technologies, les arts et la littérature sont au cœur des débats actuels. Une nouvelle question se pose désormais : l'expression de l'IA bénéficierait-elle d'une protection au titre du Premier Amendement ? Dès les débuts de l'IA, les chercheurs s'efforcent de reproduire certaines capacités du cerveau humain, comme la créativité, la résolution de problèmes et la reconnaissance vocale. La créativité est considérée comme une faculté propre au cerveau humain, tandis que l'IA s'en approche dans une certaine mesure.

Le chatbot Gemini a généré des images controversées

En résumé, l'IA peut désigner aussi bien un ensemble d'algorithmes qu'un système prenant des milliards de décisions sur une plateforme donnée, comme la base de données d'une entreprise ou un réseau social, ou encore un chatbot. Fin février, Google a annoncé la suspension de son chatbot Gemini, qui ne générerait plus d'images de personnes. Gemini avait suscité la polémique en affichant des images de scènes où figuraient des personnes de couleur dans des contextes historiquement dominés par les Blancs. Les critiques ont alors dénoncé le risque de biais identifié par l'entreprise. Google a tweeté sur X :

« Nous travaillons déjà à résoudre les problèmes récents liés à la fonctionnalité de génération d'images de Gemini. En attendant, nous suspendons la génération d'images de personnes et publierons prochainement une version améliorée. »

Source : Google.

Selon deux chercheurs de renom, Jordi Calvet-Bademunt et Jacob Mchangama, tous deux de l'université Vanderbilt, les efforts visant à lutter contre les biais de l'IA et les discussions sur ses orientations politiques sont importants, mais ils ont soulevé une autre question, souvent moins abordée, concernant l'approche du secteur de l'IA vis-à-vis de la liberté d'expression.

Des chercheurs évaluent l'approche de l'IA en matière de liberté d'expression

Les chercheurs ont également souligné que si l'approche de l'industrie en matière de liberté d'expression est conforme aux normes internationales en la matière, leurs conclusions suggèrent que l'IA générative présente des failles critiques concernant l'accès à l'information et la liberté d'expression.

Au cours de leurs recherches, les chercheurs ont évalué les politiques de six chatbots d'IA, dont les principaux, Google Gemini et ChatGPT, d'OpenAI. Ils ont constaté que le droit international des droits de l'homme devrait servir de référence pour ces politiques, mais que les politiques d'utilisation mises en place par les entreprises concernant les discours haineux et la désinformation restent trop vagues. Et ce, malgré le fait que le droit international des droits de l'homme ne protège pas suffisamment la liberté d'expression.

Selon eux, les politiques de Google contre les discours haineux sont trop laxistes car, en cas de tels incidents, Google bloque la création de contenu. Bien que les discours soient indésirables, des politiques aussi larges et vagues peuvent avoir des effets pervers. Lorsque des chercheurs ont posé des questions controversées sur la participation des femmes transgenres au sport ou sur la colonisation européenne, dans plus de 40 % des cas, les chatbots ont refusé de générer du contenu. Autrement dit, tous les chatbots ont refusé de répondre aux questions s'opposant à la participation des femmes transgenres, tandis que beaucoup l'ont soutenue.

La liberté d'expression est un droit fondamental aux États-Unis, mais les politiques floues en vigueur reposent sur l'appréciation subjective des modérateurs quant à la définition des discours haineux. Des experts ont souligné que les politiques des grandes entreprises auront un impact considérable sur le droit d'accès à l'information. De plus, le refus de publier du contenu peut inciter les utilisateurs à recourir à des chatbots qui, eux, produisent des propos haineux, ce qui serait préjudiciable.