- Скрытое использование ChatGPT в научных статьях вызывает опасения по поводу прозрачности и добросовестности исследований.
- Обнаружение обмана с помощью ChatGPT в рецензируемых журналах — это лишь верхушка айсберга.
- Распространение инструментов генеративного ИИ, таких как ChatGPT, может привести к появлению фальшивых рукописей и усложнить процесс рецензирования.
В недавнем событии, которое вызвало отголоски в научном сообществе, исследователи выявили случаи недобросовестного использования популярного ИИ-чатбота ChatGPT в научных статьях. Эти откровения подчеркивают растущую обеспокоенность прозрачностью и целостностью научных публикаций.
Открытие
9 августа журнал *Physica Scripta* опубликовал статью, направленную на раскрытие сложных математических уравнений. Однако внимательный компьютерный ученый Гийом Кабанак заметил странную фразу на третьей странице рукописи: «Regenerate response» (Сгенерировать ответ снова). Эта фраза оказалась меткой от ChatGPT, ИИ-чатбота, используемого для генерации текста в ответ на запросы пользователей. Кабанак оперативно поделился своими выводами на PubPeer, платформе, где ученые обсуждают опубликованные исследования.
Последующие расследования показали, что авторы статьи действительно использовали ChatGPT для помощи в составлении рукописи. Примечательно, что эта аномалия осталась незамеченной в течение двухмесячного процесса рецензирования и набора текста. В результате издатель IOP Publishing решил отозвать статью из-за того, что авторы не объявили об использовании инструмента при подаче.
Более широкая проблема
Этот случай не является изолированным инцидентом. С апреля Гийом Кабанак выявил более дюжины статей в журналах, содержащих характерные фразы ChatGPT «Regenerate response» или «Как языковая модель ИИ, я…», все они были опубликованы на PubPeer. Многие издатели, включая Elsevier и Springer Nature, разрешают использование ChatGPT и подобных языковых моделей при условии, что авторы заявляют об этом.
Однако эти случаи обнаружения представляют собой лишь верхушку айсберга. Исследователи подозревают, что множество рецензируемых статей, не объявленных как использующие ChatGPT, были созданы без надлежащего заявления. Сами фразы эволюционировали: в обновлении ChatGPT изменил кнопку «Regenerate response» на «Regenerate» (Сгенерировать).
Необъяченное использование в различных журналах
Гийом Кабанак обнаружил типичные фразы ChatGPT в статьях, опубликованных в журналах Elsevier. В одном случае статья, опубликованная в *Resources Policy* 3 августа, исследовала влияние электронной коммерции на эффективность использования ископаемого топлива в развивающихся странах. Кабанак заметил несоответствия в уравнениях, но ключевым моментом стало заявление над таблицей: «Обратите внимание, что как языковая модель ИИ, я не могу генерировать конкретные таблицы или проводить тесты…»
Elsevier признала проблему и в настоящее время проводит расследование. Авторы статьи, аффилированные с Ляонинским университетом в Шэньяне, Китай, и Китайской академией международной торговли и экономического сотрудничества в Пекине, не ответили на запросы о комментарии.
Проблема обнаружения обмана
Статьи, частично или полностью написанные компьютерным программным обеспечением без раскрытия информации, не являются новинкой, но они обычно демонстрируют различимые следы, такие как языковые паттерны или неточные переводы. Однако удаление стандартных фраз ChatGPT делает ИИ-сгенерированный текст практически неотличимым. Это создает постоянную проблему для научного сообщества, которую часто описывают как «гонку вооружений» между мошенниками и теми, кто пытается сохранить целостность исследований.
Влияние на рецензирование
Необъявленное использование ChatGPT также проявилось в рецензируемых конференционных статьях и препринтах. Авторы, когда их confrontировали на PubPeer, иногда признавались в использовании ChatGPT без объявления. Это откровение подчеркивает серьезную проблему – перегруженные рецензенты могут не иметь достаточного времени для тщательной проверки рукописей на наличие красных флажков.
Рост фальшивых рукописей
Распространение инструментов генеративного ИИ, таких как ChatGPT, вызывает опасения относительно потенциального роста «бумажных фабрик» (paper mills) – компаний, которые производят и продают фальшивые рукописи исследователям, стремящимся увеличить свои публикации. Это явление угрожает усугубить и без того сложную проблему в академическом издании.
Обнаружение обмана
Языковые модели, такие как ChatGPT, известны тем, что генерируют ложные ссылки, что может служить сигналом для рецензентов, пытающихся обнаружить их использование в рукописях. Фиктивные ссылки были выявлены в некоторых случаях, служа красными флажками для предупреждения рецензентов. Бдительность в проверке ссылок становится все более важной.
Обнаружение необъявленного использования ChatGPT в научных публикациях подчеркивает важность прозрачности и целостности в исследованиях. По мере того как научное сообщество борется с вызовами, posed эволюционирующими инструментами ИИ, очевидно, что более строгие руководящие принципы и повышенная бдительность в процессе рецензирования необходимы для поддержания авторитета академического издательства. Решение этих вопросов имеет первостепенное значение для обеспечения того, чтобы поиск знаний оставался основанным на этических принципах и строгих исследовательских практиках.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Эдит Патрик
Эдитах — универсальный финтех-аналитик с глубоким пониманием блокчейн-доменов. Её, как и технологии, поражает пересечение технологий и финансов. Её особый интерес к цифровым кошелькам и блокчейну помогает её аудитории.
