- 2023년, AI가 생성한 환각 현상으로 인해 허위 정보가 빠르게 확산되며 심각한 도전 과제가 되고 있습니다.
- 마이크로소프트의 Tay 챗봇이 대표하는 AI는 해로운 인간 행위를 모방할 수 있어 우려를 증폭시키고 있습니다.
- AI의 오정보는 건강을 위협하고 현실을 왜곡하며, 전문가들은 AI 기반 정보 위기에 대한 경고를发出하고 있습니다.
인공지능(AI)의 확산은 불안정한 현상을 초래했습니다. AI 생성 환각입니다. 디지털 시대에 '환각(hallucinate)'이라는 용어는 AI 시스템이 개인과 사회에 영향을 미칠 수 있는 잘못된 정보를 생성할 수 있게 되면서 새롭고 놀라운 의미를 갖게 되었습니다. 2023년 이 트렌드는 상당한 주목을 받았으며, 사전.com은 '환각'을 올해의 단어로 선정했습니다.
사전.com의 2023올해의 단어
사전.com이 '환각'을 올해의 단어로 지정한 결정은 AI 생성 허위 정보의 부상하는 중요성을 말해줍니다. 이 선택은 2022년부터 2023년까지 '환각'에 대한 사전 조회가 46% 증가했고, '환각(hallucination)'에 대한 검색도 비슷한 급증을 보인 것을 반영합니다. 그러나 이러한 급증의 주된 동력은 단어의 전통적인 정의가 아니라 AI 특유의 해석입니다.
환각 [ huh-loo-suh-neyt ] -동사- (인공지능의) 사용자의 의도에 반하는 거짓 정보를 생성하고 이를 진실하고 사실적인 것으로 제시함. 예: 챗봇이 환각을 일으킬 때, 결과는 종종 부정확할 뿐만 아니라 완전히 조작된 것입니다.
AI의 기만 능력
AI의 기만 가능성은 점점 더 큰 우려 사항이 되고 있습니다. 모든 AI 시스템이 이러한 행동을 취하는 것은 아니지만, 일부는 정치적 대변인 역할을 하거나 사실의 전달자처럼 가장하며 허위 정보를 유포하기 위해 인간 특성을 모방하도록 프로그래밍될 수 있습니다. 허위 정보와 기만 정보를 쏟아내는 unparalleled 속도는 AI를 인간과 구별합니다.
최근 게재된 JAMA Internal Medicine의 연구는 이 문제의 심각성을 강조했습니다. 이 연구는 OpenAI의 GPT Playground가 단 65분 만에 백신과 전자담배에 관한 17,000단어 이상의 허위 정보를 생성하는 방법을 보여주었습니다. 또한 생성형 AI 도구는 2분도 채 걸리지 않아 허위 서사를 뒷받침할 20개의 사실적인 이미지를 생성했습니다. 이러한 속도로 기만적 콘텐츠가 생성되면 개인이 사실과 허구를 구분하는 능력이 저해됩니다.
AI 허위 정보의 의도치 않은 결과
AI 시스템이 기만을 의도하지 않더라도, 오해의 소지가 있는 정보를 우연히 생성할 수 있습니다. 미국 건강 시스템 약사회(American Society of Health-System Pharmacists)의 연례 임상 회의에서 수행된 연구는 의료 분야에서의 AI 한계를 강조했습니다. ChatGPT는 39개의 약물 관련 질문에 대해 10개에 대해서만 만족스러운 답변을 제공했습니다. 예를 들어, COVID-19 항바이러스제인パク솔비드(Paxlovid)와 혈압약인 베라파밀(verapamil)을 병용하면 상호작용이 없다는 주장은 확립된 의학적 지식과 모순되었습니다.
AI의 허위 정보 생성 능력은 의료 분야를 넘어섭니다. 일부 AI 도구는 이미지를 오해석하여 다양한 사물을 새와 혼동하는 것으로 관찰되었습니다. 이코노미스트(The Economist)의 예시는 2016년 금문교가 이집트로 운반된다는 질문에 대한 AI의 응답을 보여주며, AI가 사실과 허구를 구분하지 못하는 능력을 드러냈습니다.
2021년의 마이크로소프트 Tay AI 챗봇 사건은 AI가 유해한 콘텐츠를 생성할 잠재력을 다시 한번 강조합니다. 트위터 가입 후 24시간 이내에 이 챗봇은 인종차별적, 여성혐오적, 그리고 거짓 트윗을 쏟아내기 시작했고, 마이크로소프트는 이를 플랫폼에서 신속하게 제거했습니다. 이 사건은 AI가 부정적인 인간 행동을 모방하는 경향을 보여주며, AI 개발 및 배포의 윤리적 고려 사항에 대한 질문을 제기합니다.
실제 건강 문제
AI 생성 환각은 인간의 환각과 마찬가지로 실제 건강 우려를 제기합니다. 허위 정보의 즉각적인 영향 외에도, 정신적 및 정서적 웰빙에 부정적인 영향을 미칠 수 있습니다. AI 생성 환각의 지속적인 폭격은 개인의 현실감을 훼손하여 혼란과 불안을 초래할 수 있습니다.
이 문제의 중대성을 인식하여, 세계보건기구(WHO)와 미국의학협회(AMA)와 같은 조직은 AI 생성 허위 정보와 기만 정보의 잠재적 해를 경고하는 성명을 발표했습니다. 사전.com이 2023년 올해의 단어로 '환각'을 선정한 것은 문제의 상징적이지만, AI 생성 환각이 제기하는 복잡한 과제에 대응하려면 지속적인 경계와 책임 있는 AI 개발을 촉진하기 위한 협력적인 노력이 필요합니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
브렌다 카나나
브렌다는 4 년 이상의 경험을 바탕으로 암호화폐, 인공지능 및 신기술 분야를 전문으로 합니다. 그녀는 Zycrypto, Blockchain Reporter, The Coin Republic 에서 근무했으며, 현재는 Cryptopolitan 에서 활동하고 있습니다. 몬바사 공과대학교에서 사회학 학위를 취득한 그녀는 독자들의 니즈를 항상 파악하고 있습니다.
