캠브리지 사전의 올해의 단어 '환각(Hallucinate)'이 AI의 큰 문제를 강조

인공지능(AI) 환경에서 주목할 만한 변화로, 캠브리지 사전은 올해의 단어로 '환각(hallucinate)'을 선택했습니다. 이 선택은 AI 분야에서 이 용어를 이해하는 데 있어 중요한 발전을 반영합니다. 전통적으로 존재하지 않는 현상의 지각과 관련되었던 '환각'은 이제 AI 시스템이 부정확한 데이터를 사실인 것처럼 잘못 제시하는 경우를 포괄하게 되었으며, 이는 때로는 부정적인 결과를 초래하기도 합니다.

주요 플랫폼의 AI 부정확성

Gizmodo, CNET, Microsoft와 같은 주요 기술 플랫폼들은 AI가 생성한 기사의 부정확성으로 인해 심문을 받았습니다. 이는 AI 기반 시스템이 생성한 콘텐츠의 신뢰성에 대한 우려를 제기합니다. 특히 우려스러운 사례로, 한 법률 전문가가 AI 기반 채팅봇인 ChatGPT가 가상의 소송을 참조로 만들어냈을 때 직장을 잃었습니다. 올해 초, 모건 스탠리의 분석가들은 ChatGPT가 사실을 날조하는 경향을 지적했으며, 이 문제는 앞으로 수년간 지속될 것으로 예측했습니다. 이러한 사건들은 비즈니스 리더들과 허위 정보 전문가들 사이에서 AI가 온라인 허위 정보를 증폭시킬 잠재력에 대한 경고를 불러일으켰습니다.

비판적 사고의 중요성

캠브리지 사전의 출판 관리자 Wendalyn Nichols는 AI 도구를 사용할 때 인간의 비판적 사고가 중요한 역할을 한다고 강조했습니다. 그녀는 AI가 '환각'할 수 있다는 사실이 인간이 이러한 도구에 의존할 때 비판적 사고 기술을 발휘해야 한다는 것을 상기시켜준다고 지적합니다. 이는 사용자가 AI 생성 콘텐츠에 대해 비판적인 시각으로 접근해야 할 필요성을 강조합니다.

AI 업계의 인정

'환각'이라는 용어는 2023년 4월 OpenAI의 획기적인 채팅봇 기술인 ChatGPT가 출시된 이후 AI 업계 논의에서 주목을 받았습니다. Alphabet Inc.의 CEO인 Sundar Pichai는 AI 업계가 즉각적이고 명확한 해결책이 없는 '환각 문제'에 직면해 있다고 인정했습니다. 기술 세계의 주요 인물로부터의 이러한 인정은 문제의 심각성을 강조합니다.

책임감 있는 AI를 위한 Vectara의 기여

자기 규제와 책임감 있는 AI 장려를 위한 중요한 단계로, 대형 언어 모델(LLM) 빌더인 Vectara는 2023년 11월 오픈 소스 환각 평가 모델을 소개했습니다. 이 혁신적인 모델은 LLM이 사실 정보에서 얼마나 벗어나는지 평가합니다. 이러한 편차를 정량화함으로써 Vectara는 기업 내 AI의 광범위한 채택을 방해하는 요인을 해결하고 허위 정보와 관련된 위험을 완화하기를 목표로 합니다.

캠브리지 사전이 '환각'을 올해의 단어로 선택한 것은 AI 업계 내의 중요한 문제를 조명합니다. AI의 부정확성과 잘못된 정보를 생성할 잠재력은 전문가들과 대중들 사이에서 우려를 불러일으켰습니다. AI 업계가 이러한 '환각 문제'에 직면하는 가운데, 책임감 있는 AI 개발과 AI 도구 사용 시 경계하는 비판적 사고의 필요성은 그 어느 때보다 명확해졌습니다. Vectara의 환각 평가 모델은 이러한 도전에 대응하고 디지털 시대에 AI가 허위 정보를 증폭시키는 것이 아니라 선한 힘으로 작용하도록 보장하기 위한 중요한 진전을 나타냅니다.