Фото Ученые, работающие в сфере исследований искусственного интеллекта, столкнулись с проблемой доверия, которую они больше не могут игнорировать.
Крупные конференции, посвященные исследованиям в области искусственного интеллекта, отреагировали на то, что системы рецензирования переполнились некачественными заявками.
Организаторы отметили резкий рост числа статей и рецензий, подготовленных практически без участия человека. Проблема не в стиле, а в точности. Ошибки проникают туда, где раньше точность имела значение.
В связи с тем, что низкокачественные доклады заполняют собой все ресурсы рецензентов, на конференциях ужесточаются требования к качеству принимаемых работ
Исследователи еще на раннем этапе предупреждали, что бесконтрольное использование автоматизированных инструментов для написания текстов может нанести ущерб этой области. Иниолува Дебора Раджи, исследовательница в области искусственного интеллекта из Калифорнийского университета в Беркли, заявила, что ситуация быстро вышла из-под контроля.
«Есть некоторая ирония в том, что такой энтузиазм по поводу влияния ИИ на другие области науки проявляется тогда, когда на самом деле наша область пережила этот хаос именно из-за широкого распространения ИИ», — сказала она.
Статистические данные показывают, насколько широко распространилась эта проблема. Исследование Стэнфордского университета, опубликованное в августе, показало, что до 22 процентов научных работ по информатике содержат признаки использования больших языковых моделей.
Компания Pangram, занимающаяся анализом текста, провела рецензирование работ и экспертных оценок на Международной конференции по изучению представлений в 2025 году. По ее оценкам, 21 процент рецензий был полностью сгенерирован искусственным интеллектом, а более половины использовали его для таких задач, как редактирование. Pangram также обнаружила , что более половины контента представленных работ были созданы таким образом в 9 процентах случаев.
В ноябре ситуация достигла критической точки. Рецензенты на конференции ICLR отметили статью, предположительно созданную с помощью ИИ, которая, тем не менее, по-прежнему входила в число 17% лучших по оценкам рецензентов. В январе компания GPTZero, специализирующаяся на обнаружении ошибок, сообщила о более чем 100 автоматизированных ошибках в 50 статьях, представленных на конференции NeurIPS, которая широко считается ведущей площадкой для передовых исследований в этой области.
По мере роста обеспокоенности ICLR обновила свои правила использования перед конференцией. Теперь статьи, в которых не раскрывается широкое использование языковых моделей, могут быть отклонены. Рецензенты, представляющие низкокачественные оценки, созданные с помощью автоматизации, рискуют получить санкции, в том числе и отказ в публикации собственной статьи.
Хани Фарид, профессор информатики в Калифорнийском университете в Беркли, сказал: «Если вы публикуете действительно низкокачественные статьи, которые просто неверны, почему общество должно доверять нам как ученым?»
Объемы бумажной документации резко возрастают, а система обнаружения с трудом справляется с нагрузкой
Согласно отчету, в 2025 году на конференцию NeurIPS поступило 21 575 статей, по сравнению с 17 491 в 2024 году и 9 467 в 2020 году. Один из авторов подал более 100 статей за один год, что значительно превышает типичный показатель для одного исследователя.
Томас Г. Дитеррих, почетный профессор Университета штата Орегон и председатель секции компьютерных наук arXiv, отметил, что количество загрузок в открытый репозиторий также резко возросло.
Тем не менее, исследователи говорят, что причина не так проста. Некоторые утверждают, что рост связан с увеличением числа людей, приходящих в эту область. Другие говорят, что важную роль играет активное использование инструментов ИИ. Выявление остается сложным, поскольку нет единого стандарта дляdentавтоматизированного текста. Дитерих отметил, что к распространенным предупреждающим признакам относятся вымышленные ссылки и неверные цифры. Авторы, уличенные в этом, могут быть временно заблокированы на arXiv.
Коммерческое давление также играет свою роль. Громкие демонстрации, стремительный рост зарплат и жесткая конкуренция подтолкнули некоторые отрасли к ориентации на количество. Раджи отметил, что моментыtracпривлекают сторонних игроков, стремящихся к быстрым результатам.
В то же время исследователи утверждают, что некоторые способы применения вполне оправданы. Дитерих отметила, что качество написания научных работ из Китая улучшилось, вероятно, потому что языковые инструменты помогают более четко переписывать английский текст.
Проблема теперь выходит за рамки публикации. Такие компании, как Google, Anthropic и OpenAI, рекламируют свои модели как партнеров по исследованиям, способных ускорить открытия в таких областях, как биологические науки. Эти системы обучаются на академических текстах.
Фарид предупредил, что если обучающие данные содержат слишком много синтетического материала, производительность модели может ухудшиться. Предыдущие исследования показывают, что большие языковые модели могут превратиться в бессмыслицу, если им предоставить необработанные автоматизированные данные.
Фарид сказал, что у компаний, занимающихся сбором данных из научных исследований, естьtronпричины знать, какие статьи написаны людьми. Кевин Вейл, руководитель научного отдела OpenAI, сказал, что инструменты по-прежнему требуют проверки человеком. «Это может стать мощным ускорителем, — сказал он. — Но вы должны это проверять. Это не освобождает вас от строгости»
