마이크로소프트 챗봇, 선거 정보 정확성 논란 제기

기술 산업의 주요 플레이어인 마이크로소프트는 이러한 우려를 해결하기 위해 적극적으로 관여해 왔습니다. 이 회사는 허위 정보를 퇴치하고 디지털 플랫폼의 무결성을 향상시키기 위한 조치를 취했습니다. 마이크로소프트의 이니셔티브에는 오해의 소가 있거나 잘못된 정보의 확산을 감지하고 완화하기 위해 고급 AI 도구와 기술을 개발하고 배포하는 것이 포함됩니다.

마이크로소프트 챗봇의 경각심을 자아내는 부정확성 연구

유럽 비영리 단체인 알고리즘 워치(Algorithm Watch)와 AI 포렌식(AI Forensics)이 수행한 최근 연구는 오픈AI의 GPT-4를 기반으로 하는 마이크로소프트의 챗봇과 관련된 잠재적 위험을 조명했습니다. 이 연구는 독일과 스위스의 선거와 관련된 질문에 대한 챗봇의 응답에 초점을 맞췄습니다. 그 결과, 챗봇이 제기된 질문의 3분의 1에 대해 잘못된 답변을 제공한 것으로 나타났습니다.

우려의 중심은 종종 악의적 행위자들이 의도적으로 허위 정보를 유포하는 데 있지만, 본 연구는 범용 챗봇이 정보 생태계에 동등한 위협이 될 수 있음을 강조합니다. AI 포렌식(AI Forensics)의 수석 연구원인 살바토레 로마노(Salvatore Romano)는 "우리의 연구는 악의적 행위자들이 허위 정보의 유일한 출처가 아님을 보여줍니다. 범용 챗봇은 정보 생태계에 똑같이 위협적일 수 있습니다."라고 지적했습니다.

마이크로소프트의 챗봇: 오해의 소지가 있는 사실적 오류의 원천

연구에서 식별된 오류는 잘못된 선거 날짜와 구식 후보자 정보부터 후보자를 둘러싼 완전히 조작된 논란까지 다양했습니다. 특히 이 챗봇은 해당 주제에 대해 정확한 정보를 실제로 보유하고 있는 저명한 출처에 잘못된 정보를 귀속시켰습니다. 또한 이 AI 챗봇은 후보자들이 스캔들성 행위에 관여했다는 이야기를 만들어내어 오해의 소지가 있는 정보의 확산에 더욱 기여하는 것으로 나타났습니다.

마이크로소프트는 연구 결과에 대해 제기된 문제들을 해결할 의지를 표명했습니다. 그러나 한 달 후 수집된 후속 샘플은 유사한 결과를 보여, 챗봇이 제공하는 정보의 정확성을 보장하는 데 지속적인 과제가 있음을 나타냈습니다. 마이크로소프트의 보도 담당자는 이 기사에 대해 논평을 제공하지 않았지만, 회사 대변인은 월스트리트저널(Wall Street Journal)에 2024년 선거를 대비해 도구를 준비하기 위한 노력이 진행 중이라고 알렸습니다.

구조적 변화에 대한 요구

AI 포렌식의 응용 수학 리드이자 연구원인 리카르도 안기우스(Riccardo Angius)는 부정확함을 단순한 '환각(hallucinations)'으로 규정하는 것을 비판하며, "이러한 실수를 '환각'이라고 부르는 것을 무효화할 때입니다. 우리의 연구는 범용 대규모 언어 모델(LLM)과 챗봇에서 오해의 소지가 있는 사실적 오류가 훨씬 더 복잡하고 구조적으로 발생한다는 것을 드러냅니다."라고 밝혔습니다.

마이크로소프트의 확신과 사용자의 주의

마이크로소프트는 식별된 문제들을 해결할 필요성을 인정하지만, 사용자는 AI 챗봇이 생성한 결과를 검토할 때 '최선의 판단'을 발휘할 것을 권고받습니다. 이 기술 거인은 다가오는 2024년 선거를 위해 도구 성능을 향상시키기 위한 지속적인 노력을 강조합니다. 그러나 연구는 잠재적인 허위 정보에 직면한 경계심 있는 사용자 감시의 중요성을 부각시킵니다.

세계가 민주적 의사결정의 중요한 시기에 접어듦에 따라, 생성형 AI와 선거의 교차점은 중요한 우려를 제기합니다. 이 영역에서 두각을 나타내는 마이크로소프트의 챗봇은 부정확한 정보 유포에 대한 역할로 인해 scrutiny(감시/비판)를 받고 있습니다. 연구의 발견은 AI 기술이 민주적 과정에 어떻게 통합되는지에 대한 재평가를 촉발하며, 선거 관련 정보의 무결성을 보장하기 위한 지속적인 개선의 필요성을 강조합니다.