ИИ-модели выдают «бессмыслицу» при обучении на данных, сгенерированных ИИ

Большие языковые модели (LLM), обученные на предыдущих версиях материалов, созданных искусственным интеллектом, выдают результаты, лишенные глубины и нюансов, показало новое исследование. Эти выводы представляют новую проблему для разработчиков ИИ, которые полагаются на ограниченные наборы данных, созданные людьми.

Также читайте: Глубокие подделки (deepfakes) на базе ИИ затрудняют защиту детей властями США — отчет

Исследователи из области искусственного интеллекта из Кембриджского и Оксфордского университетов Великобритании попытались составить промпты, используя набор данных, состоящий исключительно из контента, сгенерированного ИИ. Результат оказался неидеальным: система выдавала непонятные ответы.

ИИ все еще нуждается в людях, чтобы иметь смысл

Один из авторов статьи, Жак Шумаилов из Кембриджского университета заявил, что существует необходимость в контроле качества данных, которые питают большие языковые модели (LLM), технологию, лежащую в основе генеративных ИИ-чатботов, таких как ChatGPT и Gemini от Google. Шумаилов сказал:

«Посыл в том, что мы должны быть очень осторожны с тем, что попадает в наши обучающие данные. [В противном случае] вещи всегда, доказуемо, пойдут не так».

Это явление известно как «коллапс модели», пояснил Шумаилов. Доказано, что оно влияет на все виды моделей искусственного интеллекта, включая те, которые специализируются на генерации изображений по текстовым запросам.

Согласно исследованию, повторные текстовые запросы с использованием данных, сгенерированных ИИ на одной модели, в конечном итоге приводили к генерации бессмыслицы. Например, исследователи обнаружили, что одна система, протестированная с текстом о средневековых церковных башнях Великобритании, после всего девяти поколений выдала повторяющийся список зайцев.

Комментируя результаты, ученый из Калифорнийского университета Хани Фарид сравнил коллапс данных с проблемами, присущими инбридингу у животных.

«Если вид скрещивается со своим потомством и не расширяет свой генофонд, это может привести к коллапсу вида», — сказал Фарид.

Когда исследователи добавили в данные для ИИ информацию, созданную людьми, коллапс происходил медленнее, чем при работе исключительно с контентом, сгенерированным ИИ.

Исследователи: ИИ может усугубить предвзятость по отношению к меньшинствам

Языковые модели работают, выстраивая ассоциации между токенами — словами или частями слов — в огромных массивах текста, часто собранных из Интернета. Они генерируют текст, выбирая статистически наиболее вероятное следующее слово на основе изученных паттернов.

Также читайте: Плюшевый медведь Poe с поддержкой ChatGPT читает детям сказки на ночь

В исследовании, опубликованном в журнале Nature 24 июля, показано, что информация, упоминаемая в наборах данных несколько раз, с высокой вероятностью не будет повторена. Исследователи опасаются, что это может негативно сказаться на уже маргинализированных группах меньшинств.

Чтобы избежать коллапса модели в реальных сценариях использования, исследователи предложили маркировать как контент, сгенерированный ИИ, так и созданный людьми. Однако это может быть проблематично из-за отсутствия координации между конкурирующими компаниями в сфере ИИ.

Выводы исследования сделаны на фоне растущих дебатов о том, приведет ли ИИ к полному исключению людей из процесса создания контента, включая написание романов и газетных статей.

Исследование под названием «Коллапс ИИ-моделей при обучении на рекурсивно сгенерированных данных» ставит точку в этих дебатах: люди пока не исключаются из уравнения.