- Журнал отзывает статью из-за непредоставленной информации об использовании ИИ, что вызывает опасения по поводу добросовестности исследований.
- Компьютерный ученый Гийом Кабанак выявляет участие ИИ в научных статьях.
- Растущее количество исследований ставит под сомнение возможность обнаружения помощи со стороны ИИ, подчеркивая необходимость более четких руководящих принципов.
В недавнем открытии уважаемый научный журнал Physica Scripta столкнулся с необходимостью отозвать исследовательскую статью, опубликованную в августе. Причиной отзыва стало обнаружение того, что авторы использовали приложение искусственного интеллекта ChatGPT для написания статьи. Несмотря на двухмесячный процесс рецензирования, это использование ИИ оставалось не раскрытым, что привело к нарушению этических политик журнала и вызвало опасения по поводу проблем с контролем за исследованиями с помощью ИИ.
Статья, опубликованная 9 августа в Physica Scripta, была посвящена поиску инновационных решений сложных математических уравнений. Однако на третьей странице содержалась заметная фраза «Regenerate response» (Сгенерировать ответ снова). Внимательный читатель узнал эту фразу как соответствующую кнопке на ChatGPT, как сообщалось в Nature.
Признание помощи ИИ
В ходе расследования авторы статьи в конечном итоге признались в использовании ChatGPT для помощи в создании рукописи. Их признание последовало после того, как статья прошла длительный процесс рецензирования после подачи в мае. Это открытие побудило издателя журнала, базирующегося в Великобритании, отозвать статью. Неспособность раскрыть использование приложения ИИ в момент подачи была сочтена нарушением этических политик, согласно Киму Эгглтону, ответственному за рецензирование и целостность исследований в IOP Publishing.
Гийом Кабанак: защитник прозрачности
Явное упущение в обнаружении написания с помощью ChatGPT было выявлено Гийомом Кабануком, ученым-компьютерщиком и следователем по вопросам целостности, который с 2015 года миссионерски стремится разоблачать исследовательские статьи, не раскрывающие их использование ИИ. Его разочарование из-за мошеннических статей движет преданностью Кабанука раскрытию обманных практик в академическом издании.
Сирил Лаббе, коллега-ученый-компьютерщик, который сотрудничает с Кабануком в этих расследованиях, объяснил мотивацию Кабанука, заявив: «Его расстраивают фальшивые статьи». Недавнее открытие Кабанука в Physica Scripta не является изолированным случаем; он также выявил аналогичную ситуацию в статье, опубликованной в Resources Policy, которая содержала «бессмысленные уравнения», что дополнительно подчеркивает потенциальные ловушки в процессе рецензирования.
Проблемы контроля ИИ в исследованиях
Хотя процесс рецензирования предназначен для поддержания целостности академического издательства, растущий объем публикуемых исследований создает значительные проблемы. Многие рецензенты не имеют времени или ресурсов для тщательного изучения каждого аспекта статьи, включая тонкие намеки на использование ИИ. Дэвид Бимлер, еще один исследователь, посвятивший себя выявлению мошеннических статей, выразил трудности, с которыми сталкиваются в научной экосистеме, где давление «публикуйся или погибни» может привести к упущениям в надзоре.
«Вся научная экосистема — это публикуйся или погибни», — подчеркнул Бимлер. Он отметил, что огромное количество поданных статей делает сложной тщательную проверку каждой из них для хранителей ворот, что потенциально позволяет таким проблемам, как нераскрытая помощь ИИ, оставаться незамеченными.
Ответ Physica Scripta
Несмотря на растущие опасения по поводу этого инцидента, Physica Scripta еще не выпустила официального ответа на запросы Fox News. Отзыв статьи подчеркивает необходимость более четких руководящих принципов и лучших практик для исследователей, когда в исследованиях и написании используются инструменты ИИ. Поддержание прозрачности и целостности в научных исследованиях имеет первостепенное значение, особенно по мере того, как технологии ИИ становятся все более заметными в академическом мире.
Отзыв статьи в Physica Scripta служит предостережением для научного сообщества, подчеркивая проблемы, posed эволюционирующим ландшафтом исследований с помощью ИИ. По мере развития технологий становится необходимым установить надежные протоколы для раскрытия участия ИИ в исследованиях, обеспечивая, чтобы прозрачность и целостность оставались на переднем плане академического издательства. Балансирование требований публикации с необходимостью строгого надзора — это вызов, который научное сообщество должно решить, чтобы защитить достоверность исследований.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несёт ответственности за любые инвестиции, совершённые на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или консультироваться с квалифицированным 5профессионалом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
