La programmation des chatbots pour ne pas produire de contenu controversé est-elle un problème de liberté d'expression ?
- Des chercheurs interrogent l'approche des entreprises d'IA en matière de liberté d'expression et d'accès à l'information.
- Les grandes entreprises ont des politiques trop vagues et larges concernant la haine, ce qui peut avoir des effets néfastes.
- La liberté d'expression et l'accès à l'information sont des droits humains fondamentaux aux États-Unis, mais le droit international des droits de l'homme n'est pas strict à leur égard.
Le sujet brûlant ces jours-ci est l'intelligence artificielle et son impact sur la technologie, les arts et la littérature existants, et maintenant un nouveau sujet : si l'expression de l'IA bénéficie également d'une sorte de protection en vertu du Premier Amendement. Les chercheurs tentent de reproduire les capacités du cerveau humain avec l'IA dès le début de son évolution, comme la créativité, la résolution de problèmes et la reconnaissance vocale. Le premier est considéré comme un exercice unique au cerveau humain, tandis que les deux derniers sont dans l'approche de l'IA dans une certaine mesure.
Le chatbot Gemini a généré des images controversées
Fondamentalement, l'IA peut être quoi que ce soit, d'un ensemble d'algorithmes à un système qui prend des billions de décisions sur n'importe quelle plateforme, comme la configuration de la base de données d'une entreprise ou un site de réseautage social, ou cela pourrait être un chatbot. Plus tard en février, Google a annoncé qu'il suspendait son chatbot, Gemini, et qu'il ne générerait pas d'images de personnes. La raison était que Gemini a créé un buzz car il a produit des images montrant des scènes avec des personnes de couleur dans des scènes historiquement dominées par des personnes blanches, et les critiques ont dit que si l'entreprise corrigeait trop le bot pour le risque de biais, Google a tweeté sur X que,
« Nous travaillons déjà à résoudre les récents problèmes avec la fonction de génération d'images de Gemini. Pendant ce temps, nous allons suspendre la génération d'images de personnes et relancer une version améliorée bientôt. »
Source : Google.
Selon deux universitaires éminents, Jordi Calvet-Bademunt de l'Université Vanderbilt et Jacob Mchangama de l'Université Vanderbilt, les efforts pour lutter contre le biais de l'IA et la discussion sur ses orientations politiques sont importants, mais ils ont soulevé une autre question qui est souvent moins discutée et qui concerne l'approche du secteur de l'IA envers la liberté d'expression.
Les chercheurs évaluent l'approche de l'IA en matière de liberté d'expression
Les chercheurs ont également souligné que si l'approche du secteur de la liberté d'expression est conforme aux normes internationales de liberté d'expression, ils ont déclaré que leurs résultats suggèrent que l'IA générative présente des défauts critiques en ce qui concerne l'accès à l'information et la libre expression.
Lors de la recherche, ils ont évalué les politiques de six chatbots IA, y compris les principaux, Google Gemini et ChatGPT, d'OpenAI. Ils ont noté que le droit international des droits de l'homme devrait servir de référence pour ces politiques, mais les politiques d'utilisation réelle sur les sites des entreprises concernant la haine et la désinformation sont trop vagues. Malgré le fait que le droit international des droits de l'homme ne protège pas beaucoup la liberté d'expression.
Selon eux, des entreprises comme Google ont des politiques sur la haine trop larges car, en cas d'un tel événement, Google interdit la génération de contenu. Bien que la parole haineuse ne soit pas souhaitable, avoir de telles politiques larges et vagues peut également se retourner contre eux. Lorsque les chercheurs ont posé des questions controversées sur la participation des femmes transgenres aux sports ou sur la colonisation européenne, dans plus de 40 % des cas, les chatbots ont refusé de générer du contenu. Par exemple, tous les chatbots ont refusé de répondre aux questions s'opposant à la participation des femmes transgenres, mais beaucoup d'entre eux ont soutenu leur participation.
La liberté d'expression est un droit fondamental de toute personne aux États-Unis, mais les politiques vagues reposent sur les opinions des modérateurs, qui sont subjectives quant à la compréhension de la haine. Les experts ont noté que les politiques des grandes entreprises auront un effet considérable sur le droit des personnes à accéder à l'information. Et le refus de générer du contenu peut inciter les gens à utiliser des chatbots qui génèrent du contenu haineux, ce qui serait un mauvais résultat.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement : Les informations fournies ne constituent pas des conseils de trading. Cryptopolitan.com décline toute responsabilité quant aux investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener des recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
