Plusieurs membres de la Chambre des représentants américaine, menés par le représentant Adam Schiff, demandent à Google de s'expliquer sur sa fonctionnalité « Vues d'ensemble IA ». Cet outil, intégré au moteur de recherche Google, synthétise les informations grâce à l'intelligence artificielle.
Schiff et d'autres parlementaires ont écrit au PDG de Google, Sundar Pichai, pour l'alerter sur l'inexactitude et le danger de cette fonctionnalité. Leur lettre précise que l'IA puise des informations sur des sites web satiriques et cite des théories du complot maintes fois réfutées, induisant ainsi en erreur des utilisateurs non avertis.
La lettre soulève des inquiétudes quant à la désinformation
Schiff a souligné les risques liés à la désinformation, notamment compte tenu du rôle prépondérant de Google comme source d'information et de renseignements médicaux pour de nombreux Américains. La lettre, également signée par les représentants Henry C. Johnson Jr. (démocrate de Géorgie), Donald S. Beyer Jr. (démocrate de Virginie), Pramila Jayapal (démocrate de Washington) et Lori Trahan (démocrate du Massachusetts), demande des éclaircissements sur plusieurs aspects de la fonctionnalité « Aperçu de l'IA ».
À lire également : Le discours sur l’IA s’accélère, le sentiment devient haussier sur plusieurs actifs
Les législateurs souhaitent également savoir comment les utilisateurs sont informés des risques liés à la désinformation et quel est le délai pour corriger ou supprimer les fausses informations.
La fonctionnalité « Aperçu IA » de Google utilise le modèle d'IA Gemini pourtracdes informations des pages les mieux classées et fournir un résumé avec des liens. Cependant, cette fonctionnalité a été accusée de diffuser des informations erronées et trompeuses. Parmi les exemples cités, on trouve le conseil de consommer des pierres pour obtenir des vitamines et la promotion de la religion de Barack Obama.
Les récentes controverses mettent en lumière les problèmes liés au contenu généré par l'IA
En mai 2024, Google a été critiqué peu après le lancement de sa fonctionnalité « Aperçu de l'IA » aux États-Unis, car celle-ci suggérait d'ajouter de la colle à la pizza pour que le fromage adhère. À l'heure où nous écrivons ces lignes, Google n'a pas encore répondu directement à la lettre des parlementaires.
Dans un article de blog dent chez Google , a également expliqué que la fonctionnalité « Aperçu de l'IA » présentait des problèmes. Elle a souligné que l'IA peine à fournir des résultats satisfaisants lorsque les requêtes ne sont pas étayées par des données de haute qualité et en quantité suffisante. Elle a précisé que lorsqu'un utilisateur saisit un sujet spécifique, rare ou satirique, par exemple, l'IA choisit des réponses parmi les sources limitées dont elle dispose, et que ces sources sont parfois peu crédibles.
Des discussions portent également sur les conséquences financières pour les éditeurs. Les moteurs de recherche basés sur l'IA, tels que Google, peuvent présenter un résumé du contenu provenant de différentes sources sans rediriger le trafic vers les sites d'origine, ce qui peut impacter leurs revenus. Cette situation a conduit à des initiatives législatives, comme en Californie, où les législateurs préconisent une rémunération des éditeurs lorsque les entreprises technologiques utilisent leur contenu.
