Google limite les aperçus de l'IA pour les requêtes satiriques et absurdes

Google réduit la visibilité des aperçus de l'IA dans certains résultats de recherche. Cette décision fait suite à des erreurs publiques commises par le géant de la recherche, qui ont suscité une vive réaction du public sur Internet.

Jeudi, Liz Reid, responsable de la recherche Google, a admis que l'entreprise limitait les résumés générés par l'IA, appelés « Aperçus IA ». Cette fonctionnalité basée sur l'IA a été critiquée lorsqu'elle a commencé à afficher du contenu incitant les gens à manger des pierres et à coller du fromage sur leur pizza.

À lire également : Google, OpenAI et 13 autres entreprises s’engagent à ne pas déployer de modèles d’IA risqués

Il y a deux semaines, après sa conférence annuelle I/O durant laquelle Google a présenté plusieurs offres basées sur l'IA, l'entreprise a commencé à proposer des aperçus de ses services d'IA à ses utilisateurs américains. Depuis jeudi, les utilisateurs ont constaté une diminution du nombre de questions auxquelles l'IA répond.

dentles fausses présentations sur l'IA nécessite une analyse approfondie

Dans un article de blog, Reid a expliqué que des internautes partageaient sur les réseaux sociaux des captures d'écran de synthèses d'IA proposant des solutions étranges. Elle a précisé que l'IA de l'entreprise avait commis quelques erreurs, mais que nombre d'entre elles étaient fausses et n'avaient jamais été générées par le système d'IA de Google.

Elle a admis que certains aperçus d'IA étranges ou inexacts étaient effectivement apparus. Cela a mis en évidence les points à améliorer, mais il ne s'agit pas de requêtes fréquemment utilisées. Concernant les faux aperçus, elle a déclaré :

« Par ailleurs, un grand nombre de captures d'écran falsifiées ont été largement diffusées. Certains de ces résultats falsifiés étaient flagrants et ridicules. »

Reid a indiqué que Google ne proposait aucune présentation de l'IA sur des sujets tels que le tabagisme pendant la grossesse ou le fait de laisser un chien dans une voiture. Elle a encouragé les utilisateurs ayant vu ces captures d'écran sur les réseaux sociaux à effectuer leurs propres recherches.

L'IA de Google peut désormaisdentle contenu satirique

Google adentque les contenus satiriques et les requêtes absurdes étaient des problèmes susceptibles d'entraîner des aperçus d'IA inexacts. Google a précisé qu'avant que les captures d'écran de la requête « Combien de cailloux dois-je manger ? » ne deviennent virales, personne ne posait cette question. Reid a indiqué que Google Trends pouvait le confirmer.

À lire également : Opera intègre les modèles Gemini de Google pour améliorer l’IA de son navigateur Aria

Un autre facteur est le manque de contenu disponible sur un sujet précis, également appelé « vide de données », ce qui explique aussi les inexactitudes des synthèses d'IA. Concernant la requête sur la consommation de roches, Reid a indiqué que le caractère satirique du contenu avait déclenché la synthèse d'IA. Ce contenu avait également été republié par un site web de logiciels géologiques, vers lequel la synthèse d'IA proposait un lien. Elle a précisé :

« Ainsi, lorsqu'une personne a posé cette question dans la barre de recherche, une présentation IA est apparue, renvoyant fidèlement vers l'un des rares sites web qui traitaient de la question. »

Reid n'a pas mentionné les autres présentations d'IA circulant sur les réseaux sociaux, et de nombreux grands médias ont également publié des articles à leur sujet. Par exemple, le Washington Post a publié un article sur Google affirmant que Barack Obama était musulman. Le journal a également rapporté un autre cas où une présentation d'IA de Google a conseillé à un utilisateur de boire son urine pour faciliter l'élimination des calculs rénaux.

Google est obsédé par les forums publics

La responsable de la recherche chez Google a indiqué que l'entreprise avait testé la fonctionnalité de manière approfondie avant son lancement public. Elle a également admis qu'il était difficile de simuler les pratiques d'utilisation réelles lors de la phase de test, mais que l'entreprise avait mis en place des tests rigoureux et un échantillonnage des requêtes utilisateur typiques. 

À lire également : La fonctionnalité d’aperçu de l’IA de Google suscite la polémique en raison de résultats inexacts

Certains utilisateurs et analystes de contenu web constatent que Google a récemment commencé à afficher de nombreux résultats provenant de forums publics comme Reddit. Certains s'interrogent sur l'accord conclu entre l'entreprise et Reddit, mais un porte-parole de Google a déclaré à la BBC qu'aucune clause de ce type ne figurait dans l'accord visant à accroître la visibilité de Reddit dans les résultats de recherche.

Lily Ray, vice-dent de la stratégie et de la recherche SEO chez Amsive, une agence de marketing, affirme que de nombreuses requêtes affichent désormais des résultats provenant de Reddit. Elle a également ironisé sur Google dans une publication X (anciennement Twitter), déclarant que toute la connaissance mondiale (le contenu de Reddit) est désormais combinée à l'IA.

Mesdames et Messieurs, tout le savoir du monde, combiné à la puissance de l'IA et à un troll de Reddit. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) 21 mai 2024

Reid a indiqué que les aperçus de l'IA contiennent parfois des extraits sarcastiques de forums de discussion. Elle a précisé que les forums constituent une bonne source d'informations de première main, mais que, dans certains cas, ils peuvent susciter des réponses peu utiles, comme celle de coller du fromage sur une pizza.

L'IA de Google interprète parfois mal le langage, ce qui peut entraîner des informations erronées dans les aperçus de l'IA. Cependant, selon l'entreprise, le nombre de ces erreurs reste très faible. Reid a précisé que ces problèmes ont été rapidement résolus grâce à des améliorations ou en supprimant les réponses non conformes à la politique de Google.

La vice-présidente de Google Search a également indiqué quetronexistent pour des sujets comme la santé et l'actualité. L'entreprise a mis en place de nouvelles options de déclenchement pour une meilleure protection de la qualité des informations de santé. Mme Reid a précisé que le système de détection a également été mis à jour afin d'éviter que les requêtes absurdes n'apparaissent dans les suggestions de l'IA. Elle a également laissé entendre que le nombre de suggestions de l'IA pour les requêtes satiriques serait réduit, déclarant : « Nous avons mis à jour nos systèmes afin de limiter l'utilisation de contenu généré par les utilisateurs dans les réponses susceptibles d'induire en erreur. »

Reportage Cryptopolitan par Aamir Sheikh