캠브리지 사전 올해의 단어 '환각하다(Hallucinate)'는 AI의 큰 문제점을 부각시킨다

인공지능(AI) 분야의 주목할 만한 변화 속에서 케임브리지 사전은 '환각(hallucinate)'을 올해의 단어로 선정했습니다. 이번 선정은 AI 분야에서 이 용어에 대한 이해에 상당한 진전을 보여줍니다. 전통적으로 존재하지 않는 현상에 대한 인식과 연관되었던 '환각'은 이제 AI 시스템이 부정확한 데이터를 사실로 잘못 제시하여 때로는 부정적인 결과를 초래하는 사례까지 포괄합니다.

주요 플랫폼의 AI 부정확성

기즈모도, CNET, 마이크로소프트 등 유명 기술 플랫폼들이 AI가 작성한 기사의 부정확성으로 인해 조사를 받고 있습니다. 이는 AI 기반 시스템에서 생성된 콘텐츠의 신뢰성에 대한 우려를 불러일으킵니다. 특히 우려스러운 사례로는 AI 기반 챗봇인 ChatGPT가 허위 소송을 참고 자료로 작성하면서 한 변호사가 실직한 사건이 있습니다. 올해 초 모건 스탠리 애널리스트들은 ChatGPT가 사실을 조작하는 경향을 지적했으며, 이러한 문제는 앞으로도 수년간 지속될 것으로 예상합니다. 이러한dent들은 기업 리더들과 허위 정보 전문가들 사이에서 AI가 온라인 허위 정보를 증폭시킬 가능성에 대한 경고를 불러일으켰습니다.

비판적 사고의 중요성

케임브리지 사전 출판 관리자인 웬덜린 니콜스는 AI 도구를 사용할 때 인간의 비판적 사고가 매우 중요한 역할을 한다고 강조했습니다. 그녀는 AI가 '환각'을 할 수 있다는 사실이 인간이 이러한 도구에 의존할 때 비판적 사고 능력을 발휘해야 함을 일깨워준다고 강조합니다. 이는 사용자가 AI가 생성한 콘텐츠에 대해 분별력 있는 시각을 가져야 함을 강조합니다.

AI 산업의 인정

'환각'이라는 용어는 2023년 4월 OpenAI의 획기적인 챗봇 기술인 ChatGPT가 출시된 이후 AI 업계에서 주요 논의 주제로 부상했습니다. 알파벳(Alphabet Inc.) CEO 순다르 피차이는 AI 업계가 즉각적이고 명확한 해결책이 없는 "환각 문제"에 직면해 있음을 인정했습니다. 기술 업계의 주요 인물의 이러한 인정은 이 문제의 심각성을 강조합니다.

책임 있는 AI에 대한 Vectara의 기여

자율 규제 및 책임 있는 AI 촉진을 위한 중요한 발걸음으로, 대규모 언어 모델(LLM) 개발 업체인 Vectara는 2023년 11월 오픈소스 환각 평가 모델(Hallucination Evaluation Model)을 출시했습니다. 이 혁신적인 모델은 LLM이 사실 정보와 얼마나 차이가 있는지 평가합니다. Vectara는 이러한 차이를 정량화함으로써 기업 내 AI 도입의 걸림돌을 해결하고 잘못된 정보로 인한 위험을 완화하는 것을 목표로 합니다.

케임브리지 사전이 '환각하다(hallucinate)'를 올해의 단어로 선정한 것은 AI 산업의 중요한 문제를 조명합니다. AI가 허위 정보를 생성할 수 있는 부정확성과 그 가능성은 전문가와 대중 모두에게 우려를 불러일으켰습니다. AI 산업이 이러한 "환각 문제"에 직면하면서, 책임감 있는 AI 개발과 AI 도구 사용 시 경계심 있는 비판적 사고의 필요성이 그 어느 때보다 절실해졌습니다. Vectara의 환각 평가 모델은 이러한 과제를 해결하고 디지털 시대에 AI가 허위 정보를 증폭시키는 것이 아니라 선한 영향력을 발휘할 수 있도록 하는 데 있어 중요한 진전을 보여줍니다.