Использование ИИ в научных исследованиях вызывает опасения 

Исследования показывают, что генеративный ИИ используется в научном письме с значительной частотой, некоторые исследователи рассматривают его как действительный подход, который может представлять угрозу для реальных исследований и истинной природы научной работы.

Растущее влияние ИИ на научное письмо

Ученые обнаружили, что объем текстов, созданных ИИ, довольно значительный по сравнению с другими видами писем, такими как журналы и книги. Такой анализ, основанный на лингвистике, предполагает, что использование слов, обычно ассоциируемых с большими языковыми моделями (LLM), таких как «сложный», «ключевой» и «тщательный», значительно увеличилось в тексте.

Данные, собранные Эндрю Греем из Университетского колледжа Лондона, показывают, что после 2023 года лишь 1% статей в определенных областях поддерживается ИИ. Впоследствии в апреле другое исследование из Стэнфордского университета показало, что количество предвзятых рецензий составляет от 6,3 до 17,5 процентов в зависимости от предмета исследования.

Обнаружение влияния ИИ

Языковые тесты и статистический анализ были среди инструментов, используемых для связывания слов или фраз с помощью ИИ. Несмотря на то, что модификация слов, таких как «красный», «результат» и «после», наблюдала меньше вариаций до 2023 года, а затем всплески в использовании некоторых прилагательных и наречий, связанных с контентом, сгенерированным LLM, начинают происходить.

Точнее, слова «тщательный», «заслуживающий похвалы» и «сложный» увеличились на 117%, достигнув самого высокого уровня после 2022 года. Исследование Стэнфорда наблюдало сдвиг в использовании языка в искусственном интеллекте, что указывало на то, что язык ИИ продолжает улучшаться в своем использовании во всех научных дисциплинах.

Исследование также раскрыло, что лингвистическая дискриминация ИИ согласуется с дисциплинарными различиями в принятии ИИ. Такие области, как компьютерные науки и электротехника, находятся в авангарде обучения языку ИИ. Однако такие области, как математика, физика или Nature, не имели более драматических сдвигов, а скорее более консервативных повышений.

Этические проблемы в академическом письме с помощью ИИ

Авторы, более плодовитые в препринтах, работающие в областях исследований, где конкуренция высока, и пробуждающие аппетит к коротким статьям, оказались более склонными к письму с помощью ИИ. Очевидно, что этот паттерн проливает свет на предполагаемую связь между временными ограничениями и увеличенным количеством опубликованного контента в результате генерации ИИ.

ИИ был ключевым фактором в ускорении исследовательских процессов. Однако он все еще поднимает вопросы этики, когда технология используется в различных задачах, таких как аннотации и другие разделы научных статей. Некоторые издатели считают это плагиатом и в некоторой степени неэтичным, если агенты LLM обсуждают научную статью, в которой они не являются единственными авторами-людьми.

Необходимость избегания неточностей в тексте, сгенерированном ИИ, таких как вымышленные цитаты и примеры, все еще является ключевой особенностью коммуникации ученых, нельзя забывать о прозрачности и честности. Авторам, использующим материалы, управляемые LLM, необходимо сообщать читателям о методологии исследования, которую они использовали, чтобы поддерживать целостность исследования и стандартные акты.

С растущим влиянием ИИ в академическом письме архитекторы академического сообщества сталкиваются с серьезной проблемой решения этических последствий и обеспечения надежности научных статей. ИИ — это отличная технология, которая значительно облегчает исследовательскую деятельность, но честность и целостность все еще должны поддерживаться для сохранения научной целостности.