ИИ-компании полагаются на премиальных издателей для получения обучающих данных, показывают новые исследования

Крупные технологические компании, включая OpenAI, Google, Meta и Anthropic, полагаются на высококачественные, защищенные авторским правом материалы от известных издателей для обучения своих больших языковых моделей (LLM). 

Это следует из исследования, проведенного Ziff Davis, материнской компанией CNET, IGN и Mashable, которое показывает важную роль, которую играет высококачественный контент в обучении этих ИИ-моделей. Исследование показывает, что авторитетные источники предпочтительны для обучающих наборов данных в ИИ-компаниях для повышения производительности модели, но вклад этих источников часто игнорируется.

В исследовании ИИ-юрист Ziff Davis Джордж Вукосон и главный технологический директор Джо Фортун утверждали, что ИИ-компании выбирают обучающие данные на основе рейтинга авторитетных веб-сайтов с высокими позициями в поисковых системах. Высококачественные и популярные веб-сайты выбирались для улучшения моделей, поскольку они имеют хорошую репутацию. Стратегия, которая, согласно исследованию, позволяет ИИ-разработчикам тонко настраивать языковую модель.

Ziff Davis указала, что поставщики контента высшего эшелона, такие как Axel Springer, Future PLC, Hearst, News Corp и The New York Times, среди прочих, внесли вклад в разработку обучающих наборов данных. В частности, было установлено, что 12,04% OpenWebText2, который использовался для создания GPT-3 от OpenAI, поступило от этих доверенных издателей.

Марк Цукерберг также высказался по поводу продолжающихся дебатов вокруг использования контента при обучении ИИ. В недавнем интервью The Verge Цукерберг признал, что скрейпинг данных для ИИ сложен, но также указал, что контент отдельных создателей или издателей может не иметь такого большого значения. Он заявил: «Я думаю, что отдельные создатели или издатели склонны переоценивать ценность своего конкретного контента в общей картине».

Издательства подают в суд на компании, занимающиеся ИИ

Секретность вокруг источников обучающих данных вызывает обеспокоенность как среди издателей, так и среди потребителей. The New York Times и The Wall Street Journal недавно подали в суд на компании, занимающиеся ИИ, заявив, что они нарушили законы об авторском праве, используя их контент. 

В то время как OpenAI продвинула усилия по получению лицензий на контент от медиаорганизаций, таких как Financial Times и DotDash Meredith, несколько ИИ-компаний все еще работают без надлежащего лицензирования. В отчете далее утверждается, что «крупные разработчики LLM больше не раскрывают свои обучающие данные, как они делали раньше».

По мере роста стоимости компаний, занимающихся ИИ, разрыв между технологическими гигантами и традиционными медиа-компаниями остается огромным. Технологические гиганты, такие как Google и Meta, оценочная стоимость которых составляет 2,2 трлн и 1,5 трлн долларов соответственно, остаются на переднем крае развития генеративного ИИ, в то время как стартапы, такие как OpenAI и Anthropic, оцениваются в 157 млрд и 40 млрд долларов соответственно. 

 С другой стороны, издатели все еще сталкиваются с увольнениями и реструктуризацией, что является свидетельством финансового давления, связанного с адаптацией к среде, которая все больше определяется ИИ. В результате конкуренции с пользовательским контентом и контентом на основе ИИ многие издатели сталкиваются с трудностями в снижении затрат и сокращении штата.