Галлюцинации ChatGPT в ссылках вызывают вопросы о академической добросовестности

В недавнем блоге Джордана Макдональда, который является аспирантом по экспериментальной психологии в Университете Нью-Брансуика, было показано, что ChatGPT создал более 90% цитат, которые он предоставил в качестве авторитетных ссылок. 

В публикации «Mind Pad» Канадской психологической ассоциации сообщается, что ИИ теперь может создавать поддельные библиографические или справочные данные, которые иногда могут быть столь же правдоподобными, как и настоящие, поскольку ИИ включает информацию, которую человек мог бы запомнить и сохранить в своем мозге, такую как авторы, названия, имена и правильно отформатированные цифровые идентификаторы объектов (DOI). 

Навигация двойной роли ИИ в академических исследованиях

Хотя студентам может быть трудно сформулировать контраст между оригинальным текстом и грамматически правильными, но фактологически неверными ссылками, созданными ИИ, что заставляет их сомневаться в оригинальности идей в академической среде.

Исследование включало проверку подлинности цитат в области психологии по следующим шести поддисциплинам: в психологии мы изучаем пять областей: религию, животных, социальную, клиническую, личность и нейропсихологию. 

В конечном итоге для поддисциплин было сгенерировано 100% точное число — 300, согласно ChatGPT, однако только 32,3 из них оказались реальными, что является четкой тенденцией для указанных областей.

ИИ как страсть к академической работе: проблемы и недостатки

ChattGPT может предложить как поддельное, так и легитимное изобретение. Исследование Макдональда подтвердило это. Однако это конкретное исследование, проведенное в этом запросе, не совпадает с теми, которые мы обычно видим в цитировании ChatGPT. 

Другими словами, экономия на материалах из-за ошибок сложной модели заставит жителей доверять этому упрощению. Кроме того, это привлекает обсуждение жизненных навыков, которые нам нужны в школе, и источника таких навыков. 

Обоснованность роли ИИ-исследований как средства проведения образовательных исследований зависит от степени неразличимости, которую ИИ может достичь при моделировании экспертов.

Например, доказательства могут быть обнаружены с помощью инструментов ИИ для основного академического задания. Эта информация может быть ключевой для презентаций в реальной жизни или выглядеть немного разрозненно. Таким образом, умные инструменты ИИ и подходы к обучению потребуют серьезного рассмотрения.

Баланс преимуществ и рисков ИИ в академической добросовестности

Однако исследование не только выявляет трудности, связанные с ИИ в школах, но и стимулирует обсуждение таких технологий как ценного инструмента в образовательной и исследовательской деятельности при использовании в определенных обстоятельствах. 

Педагогам и исследователям рекомендуется не только признавать, но и лучше понимать ограничения и возможности технологий ИИ, таких как Chat GPT, чтобы они могли полностью использовать эти технологии, не влияя на академические стандарты.

Согласно Макдональду, тот факт, что у этих моделей есть огромные преимущества, не должен заставлять нас полностью игнорировать их, особенно если они вводят нас в заблуждение, заставляя полагаться только на их выводы для изучения академических тем, которые нас интересуют. Результаты также намекают на возможность противоречий, созданных ИИ, как индикаторов участия ИИ в работе студентов, даже не следуя общепринятым правилам.

Дальнейшее развитие ИИ требует дополнительных исследований, направленных на прояснение областей его применения и потенциальных ограничений. Scavenge собирается исследовать новые тактики обнаружения плагиата на основе ИИ и других форм мошенничества. 

С одной стороны, ИИ, такой как ChatGPT, может привести к различным преимуществам в академических исследованиях, с другой стороны, он имеет недостаток в виде предоставления информации вне контекста (или сфабрикованной), которая может ввести в заблуждение аналитиков или исследователей.