ChatGPT의 허위 인용문이 학문적 진실성 논란을 불러일으키고 있다

뉴브런즈윅 대학교 실험심리학 박사dent 인 조던 맥도널드가 최근 블로그에 올린 글에 따르면, ChatGPT가 권위 있는 참고 자료로 제시한 인용문의 90% 이상이 자체적으로 생성된 것으로 나타났습니다. 

캐나다 심리학회(Canadian Psychological Association)의 마인드 패드(Mind Pad)에 따르면, 인공지능(AI)이 이제 가짜 서지 정보나 참고 문헌 정보를 생성할 수 있으며, AI는 저자, 제목, 이름, 그리고 올바르게 형식화된 디지털 객체 식별자(DOI)와 같이 사람이 기억하고 저장할 수 있는 정보를 포함하기 때문에 때로는 실제 정보만큼 그럴듯해 보일 수dent. 

학술 연구에서 인공지능의 이중적 역할 이해하기

dent은 원문과 AI가matic으로는 맞지만 사실적으로는 틀린 내용을 대조하는 데 어려움을 겪을 수 있으며, 이로 인해 학문적 환경에서 아이디어의 독창성에 대해 의심을 품을 수도 있습니다.

본 연구는 심리학 분야의 여섯 가지 하위 분야, 즉 종교심리학, 동물심리학, 사회심리학, 임상심리학, 성격심리학, 신경심리학의 다섯 분야에 걸쳐 인용문의 진위성을 검증하는 것을 목표로 했습니다. 

결과적으로 ChatGPT에 따르면 하위 필드의 정확한 개수는 300개로 100% 정확하게 생성되었지만, 그중 실제로는 32.3개에 불과했으며, 이는 앞서 언급한 영역에서 나타나는 분명한 경향입니다.

학문적 연구 분야로서의 인공지능: 문제점과 단점

ChattGPT는 가짜 또는 진짜 발명품을 모두 제공할 수 있습니다. 맥도널드의 연구에서도 이를 뒷받침했습니다. 그러나 해당 연구에서 제시된 내용은 우리가 일반적으로 ChatGPT와 관련하여 인용하는 연구 결과들과는 일치하지 않습니다. 

다시 말해, 복잡한 모델의 오류로 인한 자재 절감 효과는dent이러한 단순화를 신뢰하게 만들 것입니다. 또한, 이는 학교에서 필요한 생활 기술과 그러한 기술의 원천에 대한 논의를trac합니다. 

교육 연구 수단으로서 인공지능 학문의 역할이 정당한지 여부는 인공지능이 전문가를 모방하는 데 있어 얼마나 구별 불가능할 정도로 근접성을 달성할 수 있는지에 달려 있습니다

예를 들어, 주요 학업 과제에 AI 도구를 활용하면 증거를 발견할 수 있습니다. 이러한 정보는 실제 발표에 매우 중요할 수도 있고, 아니면 다소 산만하게 보일 수도 있습니다. 따라서 AI 기반 스마트 도구와 교육 접근 방식은 진지하게 고려해야 할 필요가 있습니다.

학문적 진실성 측면에서 인공지능의 이점과 위험성의 균형

하지만 이 연구는 학교에서 인공지능을 사용하는 데 따르는 어려움을 드러낼 뿐만 아니라, 특정 상황에서 사용될 경우 교육 및 연구 활동에 있어 인공지능이 귀중한 도구가 될 수 있다는 논의를 촉발시키기도 합니다. 

교육자와 연구자들은 Chat GPT와 같은 AI 기술의 한계와 가능성을 인식하는 데 그치지 않고 더 잘 이해하여 학업 수준에 영향을 미치지 않고 이러한 기술을 최대한 활용할 수 있도록 권장됩니다.

맥도널드에 따르면, 이러한 모델들이 엄청난 장점을 가지고 있다는 사실이 우리가 그것들을 완전히 무시해야 할 이유가 되어서는 안 되며, 특히 우리가 관심 있는 학문적 주제에 대해 배우는 데 있어 오직 그 결론에만 의존하도록 유도한다면 더욱 그렇다. 또한, 연구 결과는 일반적인 규칙을 따르지 않더라도 AI가dent 연구에 관여하고 있음을 보여주는 지표로서 AI가 만들어낸 모순의 가능성을 시사한다.

인공지능의 발전을 위해서는 응용 분야와 잠재적 한계를 규명하기 위한 추가 연구가 필요합니다. 스캐빈지는 인공지능 기반 표절 및 기타 부정행위 탐지를 위한 새로운 전략을 연구할 예정입니다. 

한편으로 ChatGPT와 같은 인공지능은 학술 연구에 다양한 이점을 제공할 수 있지만, 다른 한편으로는 분석가나 연구자를 오도할 수 있는 맥락에서 벗어난 정보(또는 조작된 정보)를 제공한다는 단점도 있습니다.