Google limite les aperçus IA pour les requêtes satiriques et absurdes

Google réduit la présentation des aperçus IA dans certains résultats de recherche. Cette décision est intervenue après que le géant de la recherche a commis quelques erreurs médiatisées qui ont provoqué un tollé sur Internet.

Jeudi, Liz Reid, responsable de Google Search, a admis que l’entreprise limitait les résumés générés par l’IA appelés « Aperçus IA ». La fonctionnalité alimentée par l’IA a été critiquée lorsqu’elle a commencé à afficher du contenu demandant aux gens de manger des roches et de coller du fromage sur leur pizza.

À lire également : Google, OpenAI et 13 autres s’engagent à ne pas déployer de modèles IA risqués

Google a commencé à afficher des Aperçus IA à ses utilisateurs aux États-Unis il y a deux semaines, après son événement annuel I/O, au cours duquel il a lancé plusieurs offres basées sur l’IA. À partir de jeudi, les utilisateurs ont remarqué moins de questions, ce qui a entraîné une réponse IA.

Identifier les faux Aperçus IA nécessite une analyse minutieuse

Reid a écrit dans un article de blog que les personnes sur les réseaux sociaux ont partagé des captures d’écran d’Aperçus IA suggérant des solutions étranges. Elle a déclaré que l’IA de l’entreprise a commis quelques erreurs, mais que beaucoup étaient fausses et n’ont jamais été générées par le système IA de Google.

Elle a admis que certains Aperçus IA étranges ou inexacts sont effectivement apparus. Elle a mis en évidence les domaines où la fonctionnalité doit être améliorée, mais il ne s’agit pas de requêtes couramment recherchées. En notant les fausses, elle a déclaré :

« Parallèlement, un grand nombre de fausses captures d’écran ont été largement partagées. Certaines de ces fausses résultats étaient évidents et absurdes. »

Reid a déclaré que Google n’a montré aucun les aperçus IA pour des sujets comme le tabagisme pendant la grossesse ou le fait de laisser des chiens dans des voitures. Elle a encouragé les utilisateurs qui ont vu ces captures d’écran sur les réseaux sociaux à effectuer leurs propres recherches et à vérifier.

L’IA de Google peut désormais identifier le contenu satirique

Google a identifié que le contenu satirique et les requêtes absurdes étaient des domaines qui devaient être traités pour produire des Aperçus IA inexacts. Google a déclaré qu’avant que les captures d’écran de la requête « Combien de roches dois-je manger ? » ne deviennent virales, personne ne posait cette question. Reid a déclaré que Google Trends peut être consulté pour confirmation.

À lire également : Opera intègre les modèles Gemini de Google pour améliorer l'IA du navigateur Aria

Un autre facteur est qu’il y a très peu de contenu disponible sur un sujet spécifique, également connu sous le nom de vide de données, ce qui est également une raison pour des Aperçus IA inexacts. Concernant la requête sur le fait de manger des roches, Reid a déclaré que le caractère satirique du contenu a déclenché l’Aperçu IA. Le contenu a également été republié par un site web de logiciels géologiques, auquel l’Aperçu IA a lié. Elle a précisé :

« Donc, lorsque quelqu’un a posé cette question dans la recherche, un Aperçu IA est apparu qui a fidèlement lié à l’un des seuls sites web qui abordaient la question. »

Reid n’a pas mentionné les autres Aperçus IA qui circulent sur les réseaux sociaux, et de grands éditeurs ont également publié des rapports à leur sujet. Par exemple, The Washington Post a publié un rapport sur Google disant aux gens que Barack Obama était musulman. La publication a également rapporté un autre cas dans lequel l’Aperçu IA de Google a dit à un utilisateur que les gens devraient boire de l’urine pour aider à passer les calculs rénaux.

Google a une obsession pour les forums publics

Le responsable de la recherche de Google a noté que l’entreprise a testé la fonctionnalité de manière approfondie avant de la lancer au public. Elle a également admis que les pratiques d’utilisation réelles sont difficiles à simuler lors de la phase de test, mais l’entreprise a effectué un red-teaming robuste et un échantillonnage des requêtes typiques des utilisateurs. 

À lire également : La fonctionnalité Aperçu IA de Google fait face à un tollé en raison de résultats inexacts

Certains utilisateurs et analystes de contenu Internet notent que Google a récemment commencé à afficher de nombreux résultats provenant de forums publics comme Reddit. Certains remettent en question l’accord de l’entreprise avec Reddit, mais un porte-parole de Google a déclaré à la BBC qu’aucun terme de ce type ne faisait partie de l’accord pour donner à Reddit plus de visibilité dans les résultats de recherche.

Lily Ray, vice-présidente de la stratégie et de la recherche SEO chez Amsive, une agence de marketing, déclare qu’à présent, de nombreuses requêtes affichent des résultats provenant de Reddit. Elle a également moqué Google dans un post sur X (anciennement Twitter), disant que toute la connaissance du monde (le contenu de Reddit) est combinée avec l’IA.

Mesdames et messieurs, toute la connaissance du monde, combinée à la puissance de l’IA et à un troll de Reddit. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) Mai 21, 2024

Reid a déclaré que la fonctionnalité Aperçus IA contient du contenu sarcastique provenant de forums de discussion dans certains exemples. Elle a déclaré que les forums sont une bonne source d’informations de première main, mais que dans certains cas, ils peuvent déclencher des réponses peu utiles, comme coller du fromage sur la pizza.

L’IA de Google interprète également mal le langage, ce qui conduit à des informations erronées dans les Aperçus IA, mais le ratio de ces réponses est très faible, selon l’entreprise. Reid a noté qu’ils ont résolu les problèmes rapidement grâce à des améliorations ou en supprimant les réponses qui ne se conformaient pas à la politique de Google.

Le VP de Google Search a également déclaré que des garde-fous solides existent pour des sujets comme la santé et les actualités. L’entreprise a lancé de nouveaux ajustements de déclenchement pour des protections de qualité renforcées pour la santé. Reid a déclaré que le système de détection est également mis à jour pour les requêtes absurdes afin de ne pas les afficher comme des aperçus IA. Elle a également laissé entendre la confirmation de moins d’Aperçus IA pour les requêtes satiriques, disant : « Nous avons mis à jour nos systèmes pour limiter l’utilisation de contenu généré par les utilisateurs dans les réponses qui pourraient offrir des conseils trompeurs. »

Article de Cryptopolitan par Aamir Sheikh