Google entraîne les outils de recherche IA sur le contenu des éditeurs malgré les options de désinscription

Google fait face à de nouvelles critiques après qu’un dirigeant senior a témoigné que les produits d’intelligence artificielle (IA) spécifiques à la recherche de l’entreprise, tels que les Aperçus IA, sont entraînés sur le contenu des éditeurs, même lorsque ces éditeurs ont explicitement choisi de ne pas participer à l’entraînement de l’IA.

Eli Collins, Vice-Président chez Google DeepMind, a reconnu dans un tribunal fédéral vendredi que bien que les éditeurs puissent empêcher l’utilisation de leur contenu pour entraîner les modèles d’IA développés par DeepMind, ces options de désinscription ne s’appliquent pas à l’organisation plus large de la recherche de Google.

« Une fois que vous prenez le modèle Gemini [IA] et que vous l’intégrez dans l’organisation de la recherche, cette dernière a la capacité d’entraîner le modèle sur les données que les éditeurs avaient refusé, c’est bien cela ? » a demandé Diana Aguilar, avocate du Département de la Justice des États-Unis (DOJ).

Collins a confirmé que les données pouvaient toujours être utilisées « pour l’utilisation dans la recherche ».

Cette révélation survient dans le cadre d’un procès antitrust déterminant comment l’entreprise technologique doit restructurer ses opérations après avoir été reconnue coupable l’année dernière d’avoir illégalement monopolisé le marché de la recherche en ligne. Le Département de la Justice presse désormais pour des remèdes structurels, y compris forcer l’entreprise à céder son navigateur Chrome et interdire les accords qui la rendent le moteur de recherche par défaut sur tous les appareils — un mouvement qui aurait également un impact sur le produits IA, y compris Gemini.

Google alimente les outils IA avec du contenu que les éditeurs disent ne pas avoir autorisé

Le La fonctionnalitéAperçus IA, qui résume les réponses en haut des résultats de recherche à l’aide de texte généré par IA, a déjà alarmé les éditeurs de sites web. Beaucoup soutiennent qu’elle réduit les clics vers les sites web originaux et nuit à leurs revenus, yet la firme technologique continue d’utiliser les données de ces sources.

Dans un document présenté par le DOJ daté du 26 août 2024, intitulé « Search GenAI <> Gemini v3 », des données internes ont montré que Google avait filtré environ 80 milliards de jetons — essentiellement des extraits de texte — de son corpus d’entraînement de 160 milliards de jetons en réponse aux options de désinscription des éditeurs. Cependant, les 80 milliards de jetons restants pourraient toujours inclure du contenu qui alimente les fonctionnalités IA de la recherche Google.

Le même document listait également les « données de sessions de recherche » et les vidéos YouTube comme sources supplémentaires pour améliorer l’entraînement de l’IA, soulevant des inquiétudes quant à l’étendue des données utilisateur alimentant les modèles IA de la firme technologique.

Lorsque le juge Amit Mehta a demandé si la moitié du jeu de données avait bien été supprimée en raison des options de désinscription des éditeurs, Collins a confirmé : « C’est exact ».

Le DOJ met en avant l’intérêt interne pour l’exploitation des données de recherche pour l’IA

Le DOJ a également mis en évidence des discussions internes au sein de Google suggérant des ambitions d’entraîner des modèles IA en utilisant ses vastes réserves de données de recherche — classements, requêtes et comportement des utilisateurs.

Un tel exemple comprenait une présentation préparée pour le PDG de DeepMind, Demis Hassabis, dans laquelle il s’interrogeait sur l’idée d’entraîner un modèle IA de Google en utilisant des données de recherche complètes pour évaluer les gains de performance résultants.

Aguilar a demandé à Collins si Google avait construit un modèle en utilisant les données de recherche. Collins a répondu qu’il n’avait pas connaissance d’un tel modèle en développement, bien qu’il ait reconnu que Hassabis avait montré de l’intérêt pour le concept.

L’équipe juridique de Google a essayé de minimiser les inquiétudes concernant la domination de l’IA, arguant que d’autres entreprises d’IA peuvent prospérer sans exploiter son index de recherche. Par exemple, les chatbots sportifs peuvent accéder à des données en temps réel via des partenariats commerciaux avec des fournisseurs de scores, et non via du contenu crawlé sur le web.

Néanmoins, le DOJ maintient que la domination de longue date de Google dans la recherche lui donne un avantage déloyal dans l’espace IA, en particulier alors qu’elle intègre Gemini dans son infrastructure de recherche.

Google fait face à de nouvelles critiques sur son activité publicitaire

Alphabet’s Google fera également face à un procès en septembre concernant les propositions des autorités antitrust visant à forcer l’entreprise à céder des parties de son activité de technologie publicitaire. Les changements proposés visent à remédier à la domination de l’entreprise sur les outils utilisés par les éditeurs en ligne pour vendre des publicités numériques.

Le juge fédéral Leonie Brinkema à Alexandria, en Virginie, a fixé la date du procès après avoir entendu Google et le DOJ sur les remèdes potentiels. Les deux parties devraient déposer des propositions détaillées d’ici lundi.

Le DOJ cherche à ce que la firme technologique cède ses activités d’échange publicitaire et de serveur publicitaire pour les éditeurs — un processus qui devrait prendre plusieurs années, selon l’avocate du DOJ Julia Tarver Wood.

L’avocate de Google, Karen Dunn, a contre-argumenté que l’entreprise soutient les remèdes comportementaux, tels que permettre aux enchères en temps réel d’être disponibles pour les concurrents. Cependant, elle a argué que le DOJ ne peut pas légalement forcer l’entreprise à céder des parties de son activité. Dunn a également affirmé qu’un tel mouvement nuirait aux utilisateurs d’Internet et ferait face à des défis en raison d’un manque d’acheteurs intéressés.