Google réduit la présentation des aperçus de l'IA dans certains résultats de recherche. La décision a été prise après que le géant de la recherche ait commis des erreurs médiatisées qui ont provoqué une réaction publique sur Internet.
Jeudi, Liz Reid, responsable de la recherche Google, a admis que la société limitait les résumés générés par l'IA appelés « aperçus de l'IA ». La fonctionnalité basée sur l'IA a été critiquée lorsqu'elle a commencé à afficher du contenu invitant les gens à manger des pierres et à coller du fromage sur leur pizza.
Lisez aussi : Google, OpenAI et 13 autres s'engagent à ne pas déployer de modèles d'IA à risque
Google a commencé à montrer des aperçus de l'IA à ses utilisateurs aux États-Unis il y a deux semaines après son événement annuel I/O, au cours duquel il a déployé plusieurs offres basées sur l'IA. À partir de jeudi, les utilisateurs ont remarqué moins de questions, ce qui a donné lieu à une réponse de l'IA.
L'dentdes faux aperçus de l'IA nécessite une analyse minutieuse
Reid a écrit dans un article de blog que des personnes sur les réseaux sociaux partageaient des captures d'écran d'aperçus de l'IA suggérant des solutions étranges. Elle a déclaré que l'IA de l'entreprise avait commis quelques erreurs, mais que beaucoup étaient fausses et n'avaient jamais été générées par le système d'IA de Google.
Elle a admis que des aperçus étranges ou inexacts de l’IA étaient certainement apparus. Il a mis en évidence les domaines dans lesquels la fonctionnalité doit être améliorée, mais il ne s’agit pas de requêtes couramment recherchées. Remarquant les faux, elle dit :
« Par ailleurs, un grand nombre de fausses captures d’écran ont été largement partagées. Certains de ces faux résultats étaient évidents et ridicules.
Reid a déclaré que Google n'avait montré aucun aperçu de l'IA sur des sujets tels que fumer pendant la grossesse ou laisser des chiens dans les voitures. Elle a encouragé les utilisateurs qui ont vu ces captures d’écran sur les réseaux sociaux à effectuer eux-mêmes des recherches et à vérifier.
L'IA de Google peut désormaisdentle contenu satirique
Google adentque le contenu satirique et les requêtes absurdes étaient des domaines qui devaient être abordés pour produire des aperçus d'IA inexacts. Google a déclaré cela avant les captures d'écran de la requête « Combien de pierres dois-je manger ? » est devenu viral, personne n’a posé la question. Reid a déclaré que Google Trends pouvait être consulté pour confirmation.
Lisez aussi : Opera intègre les modèles Gemini de Google pour améliorer l'IA du navigateur Aria
Un autre facteur est que très peu de contenu est disponible sur un sujet spécifique, également connu sous le nom de données vides, ce qui est également une raison pour des aperçus inexacts de l'IA. Concernant la requête mangeuse de pierres, Reid a déclaré que la nature satirique du contenu avait déclenché l'aperçu de l'IA. Le contenu a également été republié par un site Web de logiciel géologique, auquel l’AI Overview était lié. Elle a précisé,
"Ainsi, lorsque quelqu'un a posé cette question dans la recherche, un aperçu de l'IA est apparu, fidèlement lié à l'un des seuls sites Web à avoir abordé la question."
Reid n'a pas mentionné les autres aperçus de l'IA qui circulent sur les réseaux sociaux, et de nombreux grands éditeurs ont également publié des rapports à leur sujet. Par exemple, le Washington Post a publié un rapport sur Google indiquant que Barack Obama était musulman. La publication a également rapporté un autre cas dans lequel Google AI Overview a dit à un utilisateur que les gens devraient boire de l'urine pour aider à éliminer les calculs rénaux.
Google est obsédé par les forums publics
Le responsable de la recherche de Google a noté que la société avait testé la fonctionnalité de manière approfondie avant de la lancer au public. Elle a également admis que les pratiques d'utilisation réelles sont difficiles à simuler pendant la phase de test, mais la société a procédé à une équipe rouge robuste et à un échantillonnage des requêtes des utilisateurs typiques.
A lire également : La fonctionnalité de présentation de l'IA de Google fait face à des réactions négatives en raison de résultats inexacts
Certains utilisateurs et analystes de contenu Internet notent que Google a récemment commencé à afficher de nombreux résultats provenant de forums publics comme Reddit. Certains remettent en question l'accord de l'entreprise avec Reddit, mais un porte-parole de Google a déclaré à la BBC qu'aucun terme de ce type ne faisait partie de l'accord visant à donner à Reddit plus de visibilité dans les résultats de recherche.
Lily Ray, vice-dent de la stratégie et de la recherche SEO chez Amsive, une agence de marketing, affirme que désormais, de nombreuses requêtes affichent des résultats provenant de Reddit. Elle s'est également moquée de Google dans un post X (anciennement Twitter), affirmant que toutes les connaissances du monde (contenu Reddit) sont combinées avec l'IA.
Mesdames et messieurs, toutes les connaissances du monde, combinées à la puissance de l'IA et à un troll Reddit. pic.twitter.com/jhzT2pGXjh
-Lily Ray 😏 (@lilyraynyc) 21 mai 2024
Reid a déclaré que les aperçus de l'IA présentent dans certains exemples du contenu sarcastique provenant de forums de discussion. Elle a déclaré que les forums sont une bonne source d'informations de première main, mais que dans certains cas, ils peuvent déclencher des réponses peu utiles, comme coller du fromage sur une pizza.
L'IA de Google interprète également mal le langage, ce qui conduit à des informations erronées dans les aperçus de l'IA, mais le ratio de telles réponses est très faible, selon l'entreprise. Reid a noté qu'ils ont résolu les problèmes rapidement en améliorant ou en supprimant les réponses qui n'étaient pas conformes à la politique de Google.
Le vice-président de la recherche Google a également déclaré que tron garde-fous existent pour des sujets tels que la santé et l'actualité. La société a lancé de nouvelles améliorations de déclenchement pour des protections de qualité améliorées pour la santé. Reid a déclaré que le système de détection est également mis à jour pour les requêtes absurdes afin de ne pas les afficher sous forme d'aperçus de l'IA. Elle a également fait allusion à la confirmation d'une diminution du nombre d'aperçus de l'IA pour les requêtes satiriques, en déclarant : « Nous avons mis à jour nos systèmes pour limiter l'utilisation de contenu généré par les utilisateurs dans les réponses qui pourraient offrir des conseils trompeurs. »
Reportage cryptopolitain d'Aamir Sheikh
Cryptopolitan Academy: à venir bientôt - une nouvelle façon de gagner un revenu passif avec DeFi en 2025. En savoir plus
