Учёные призывают к ужесточению правил раскрытия информации об ИИ на фоне «всплеска» низкокачественных статей

Учёные, работающие в сфере исследований искусственного интеллекта, сталкиваются с проблемой доверия, которую больше нельзя игнорировать.

Крупные конференции по исследованиям ИИ отреагировали после того, как системы рецензирования оказались перегружены слабыми submissions.

Организаторы зафиксировали резкий рост количества статей и рецензий, созданных при минимальном участии человека. Проблема не в стиле. Проблема в точности. Ошибки просачиваются туда, где раньше требовалась безупречность.

Конференции ужесточают контроль: низкокачественные статьи overwhelg reviewers

Исследователи предупреждали заранее, что неконтролируемое использование инструментов автоматического написания текстов может нанести ущерб отрасли. Иньолюва Дебора Раджи, исследователь ИИ из Калифорнийского университета в Беркли, отметила, что ситуация быстро переросла в хаос.

«В этом есть определённая ирония: столько энтузиазма вокруг влияния ИИ на другие области, а в то же время наша собственная отрасль переживает хаотичный опыт именно из-за повсеместного использования ИИ», — сказала она.

Твёрдые данные показывают масштаб проблемы. Исследование Стэнфордского университета, опубликованное в августе, выявило, что до 22 процентов статей по компьютерным наукам содержат признаки использования языковых моделей.

Pangram, стартап по анализу текста, проанализировала заявки и рецензии на Международной конференции по представлениям обучения в 2025 году. По её оценкам, 21 процент рецензий был полностью сгенерирован ИИ, а более половины использовали его для таких задач, как редактирование. Pangram также выявила, что в 9 процентах представленных статей более половины контента было создано таким образом.

Проблема достигла переломного момента в ноябре. Рецензенты ICLR отметили статью, предположительно созданную ИИ, которая всё равно вошла в топ-17% по оценкам рецензентов. В январе компания GPTZero сообщила о более чем 100 автоматических ошибках в 50 статьях, представленных на NeurIPS, который широко считается ведущей площадкой для передовых исследований в этой области.

По мере роста обеспокоенности ICLR обновил правила использования до начала конференции. Статьи, не раскрывающие масштабное использование языковых моделей, теперь будут отклонены. Рецензенты, представляющие низкокачественные оценки, созданные с помощью автоматизации, рискуют получить санкции, включая отказ в рассмотрении их собственных статей.

Хани Фари, профессор информатики Калифорнийского университета в Беркли, сказал: «Если вы публикуете низкокачественные работы, которые просто ошибочны, почему общество должно доверять нам как учёным?»

Объём публикаций резко растёт, а методы их обнаружения не успевают

Согласно отчёту, конференция NeurIPS получила 21 575 статей в 2025 году — по сравнению с 17 491 в 2024 году и 9 467 в 2020-м. Один автор представил более 100 статей за год, что далеко выходит за рамки типичной продуктивности одного исследователя.

Томас Г. Диттерих, заслуженный профессор Университета штата Орегон и председатель секции информатики arXiv, отметил, что объём загрузок в открытый репозиторий также резко вырос.

Тем не менее исследователи отмечают, что причина не так проста. Одни утверждают, что рост связан с притоком новых специалистов в область. Другие указывают на значительную роль активного использования инструментов ИИ. Обнаружение остаётся сложным из-за отсутствия единого стандарта для выявления автоматически сгенерированного текста. По словам Диттериха, распространённые тревожные признаки включают вымышленные ссылки и неверные данные. Авторы, уличённые в подобном, могут быть временно отстранены от arXiv.

На заднем плане также действует коммерческое давление. Высокопрофильные демонстрации, стремительно растущие зарплаты и агрессивная конкуренция заставили часть сообщества сосредоточиться на количестве. Раджи отметила, что периоды ажиотажа привлекают новичков, стремящихся к быстрым результатам.

В то же время исследователи подчёркивают, что некоторые применения являются легитимными. Диттерих заметил, что качество написания статей из Китая улучшилось, вероятно, благодаря языковым инструментам, помогающим яснее формулировать текст на английском.

Проблема выходит за рамки публикации. Компании, такие как Google, Anthropic и OpenAI, продвигают свои модели как партнёров в исследованиях, способных ускорить открытия в областях, таких как наука о жизни. Эти системы обучаются на академических текстах.

Фарид предупредил, что если обучающие данные содержат слишком много синтетического материала, производительность модели может ухудшиться. Предыдущие исследования показывают, что большие языковые модели могут скатиться к бессмыслице при подаче неочищенных автоматизированных данных.

Фарид отметил, что компании, занимающиеся сбором научных исследований, имеют сильные стимулы узнавать, какие статьи написаны людьми. Кевин Вейл, глава отдела науки в OpenAI, заявил, что инструменты всё ещё требуют проверки человеком. «Это может стать мощным ускорителем», — сказал он. — «Но вы должны это проверять. Это не освобождает вас от необходимости соблюдать строгость».