Les entreprises d’IA dépendent des éditeurs premium pour leurs données d’entraînement, révèle une nouvelle recherche

Les grandes entreprises technologiques, dont OpenAI, Google, Meta et Anthropic, s’appuient sur des matériaux de haute qualité et protégés par le droit d’auteur provenant d’éditeurs de renom pour entraîner leurs grands modèles de langage (LLM). 

C’est selon une étude menée par Ziff Davis, la société mère de CNET, IGN et Mashable, qui montre le rôle essentiel que joue le contenu de haute qualité dans l’entraînement de ces modèles d’IA. L’étude montre que les sources autorisées sont privilégiées pour les ensembles de données d’entraînement dans les entreprises d’IA afin d’améliorer les performances du modèle, mais la contribution de ces sources est souvent négligée.

Dans cette recherche, George Wukoson, avocat spécialisé en IA chez Ziff Davis, et Joey Fortuna, directeur technologique, affirment que les entreprises d’IA choisissent leurs données d’entraînement en fonction du classement des sites web autoritaires bénéficiant d’un bon positionnement dans les moteurs de recherche. Les sites de haute qualité et populaires ont été sélectionnés pour améliorer les modèles, car ils jouissent d’une bonne réputation. Une stratégie qui, selon l’étude, permet aux développeurs d’IA d’affiner le modèle de langage.

Ziff Davis a souligné que des fournisseurs de contenu de premier plan tels qu’Axel Springer, Future PLC, Hearst, News Corp et The New York Times, entre autres, ont contribué au développement des ensembles de données d’entraînement. Il a notamment été identifié que 12,04 % d’OpenWebText2, utilisé pour la création du GPT-3 d’OpenAI, provenait de ces éditeurs de confiance.

Mark Zuckerberg s’est également exprimé sur le débat en cours concernant l’utilisation du contenu dans l’entraînement de l’IA. Dans une récente interview avec The Verge, Zuckerberg a reconnu que le grattage de données pour l’IA est difficile, mais a également souligné que le contenu des créateurs individuels ou des éditeurs pourrait ne pas être aussi impactant. Il a déclaré, « Je pense que les créateurs individuels ou les éditeurs ont tendance à surestimer la valeur de leur contenu spécifique dans le grand schéma des choses. »

Les éditeurs intentent des procès aux entreprises d’IA

Le secret entourant les sources des données d’entraînement suscite des inquiétudes tant chez les éditeurs que chez les consommateurs. Le New York Times et le Wall Street Journal ont récemment intenté des procès à des entreprises d’IA, affirmant qu’elles avaient violé les lois sur le droit d’auteur en utilisant leur contenu. 

Alors qu’OpenAI a intensifié ses efforts pour obtenir des licences de contenu auprès d’organisations de presse telles que le Financial Times et DotDash Meredith, plusieurs entreprises d’IA continuent de travailler sans licence appropriée. Le rapport indique en outre « que les principaux développeurs de LLM ne divulguent plus leurs données d’entraînement comme ils le faisaient auparavant. »

Alors que la valeur des entreprises d’IA augmente, l’écart entre les titans de la technologie et les entreprises de médias traditionnels reste considérable. Les géants de la tech tels que Google et Meta, dont la valeur est estimée à 2,2 billions et 1,5 billion de dollars respectivement, restent à l’avant-garde de l’IA générative, tandis que des startups comme OpenAI et Anthropic sont valorisées à 157 milliards et 40 milliards de dollars respectivement. 

 D’un autre côté, les éditeurs font toujours face à des licenciements et à des restructurations, ce qui témoigne de la pression financière liée à l’adaptation à un environnement de plus en plus défini par l’IA. En raison de la concurrence avec les contenus générés par les utilisateurs et basés sur l’IA, de nombreux éditeurs rencontrent des difficultés pour réduire leurs coûts et leurs effectifs.