Галлюцинаторные ссылки в ChatGPT вызвали пристальное внимание к вопросам академической честности

В недавней записи в блоге Джордана Макдональда,dent экспериментальной психологии Университета Нью-Брансуика, было показано, что ChatGPT создал более 90% ссылок, которые он указал в качестве авторитетных источников. 

В новостях, опубликованных Канадской психологической ассоциацией в Mind Pad, говорится, что искусственный интеллект теперь может создавать поддельные библиографические или справочные данные, которые иногда могут быть столь же правдоподобными, как и настоящие, поскольку ИИ будет учитывать информацию, которую человек может запомнить и сохранить в своем мозгу, такую ​​как автор, названия, имена и правильно отформатированные цифровыеdentобъектов (DOI). 

Как разобраться в двойной роли ИИ в академических исследованиях

Хотяdentможет быть сложно сформулировать сравнение оригинального текста и созданных искусственным интеллектомmaticправильных, но фактически неверных ссылок, это заставляет их сомневаться в оригинальности идей в академической среде.

Исследование включало проверку подлинности цитирований в области психологии по следующим шести подразделам: в психологии мы изучаем пять областей: религия, зоология, социальная психология, клиническая психология, психология личности и нейропсихология. 

В итоге было получено 100% точное число подполей, равное 300, согласно ChatGPT, однако только 32,3 из них оказались реальными, что является очевидной тенденцией для обозначенных областей.

Искусственный интеллект как увлечение в академической работе: проблемы и недостатки

ChattGPT может предлагать как поддельные, так и легитимные изобретения. Исследование Макдональда это подтвердило. Однако это конкретное исследование, проведенное в рамках данного вопроса, не совпадает с теми, на которые мы постоянно видим ссылки в отношении ChatGPT. 

Другими словами, экономия на материалах благодаря ошибкам сложной модели заставитdentдоверять этому упрощению. Кроме того, этоtracдискуссию о необходимых в школе жизненных навыках и источниках таких навыков. 

Оправданна ли роль исследований в области искусственного интеллекта как средства проведения исследований в сфере образования, зависит от степени неотличимости, которую ИИ может достичь при моделировании экспертов

Например, доказательства могут быть получены с помощью инструментов ИИ для выполнения основного академического задания. Эта информация может иметь решающее значение для презентаций в реальной жизни или, наоборот, выглядеть несколько разрозненной. Таким образом, использование интеллектуальных инструментов ИИ и соответствующих педагогических подходов потребует серьезного рассмотрения.

Баланс между преимуществами и рисками ИИ в сфере академической честности

Однако данное исследование не только выявляет трудности, связанные с применением ИИ в школах, но и стимулирует дискуссию о том, что такие технологии могут стать ценным инструментом в образовательной и исследовательской деятельности при использовании в определенных условиях. 

Преподавателям и исследователям рекомендуется не только осознавать, но и лучше понимать ограничения и возможности технологий искусственного интеллекта, таких как Chat GPT, чтобы они могли в полной мере использовать эти технологии, не влияя на академический уровень.

По мнению Макдональда, тот факт, что эти модели обладают огромными преимуществами, не должен заставлять нас полностью игнорировать их, особенно если они вводят нас в заблуждение, заставляя полагаться только на их выводы при изучении интересующих нас академических тем. Результаты также указывают на возможность противоречий, создаваемых ИИ, поскольку показатели участия ИИ в работеdent даже не следуют общепринятым правилам.

Дальнейшее развитие ИИ требует дополнительных исследований, направленных на выяснение областей его применения и потенциальных ограничений. Компания Scavenge намерена исследовать новые методы обнаружения плагиата и других форм мошенничества с использованием ИИ. 

С одной стороны, искусственный интеллект, такой как ChatGPT, может принести различные преимущества в академических исследованиях, с другой стороны, у него есть недостаток в виде предоставления информации, вырванной из контекста (или сфабрикованной), которая может ввести в заблуждение аналитиков или исследователей.