인공지능이 생성한 환각: 2023년 증가하는 건강 문제

불러일으켰습니다 AI가 만들어내는 환각을. "환각을 일으키다"라는 단어는 디지털 시대에 새롭고도 경악스러운 의미를 갖게 되었는데, AI 시스템이 개인과 사회에 영향을 미칠 수 있는 허위 정보를 생성할 수 있기 때문입니다. 2023년, 이러한 현상은 큰 주목을 받았고, Dictionary.com은 "환각을 일으키다"를 올해의 단어. 

Dictionary.com이 선정한 2023년 올해의 단어

Dictionary.com이 "환각하다(hallucinate)"를 올해의 단어로 선정한 것은 AI가 생성한 잘못된 정보가 점점 더 확산되고 있음을 여실히 보여줍니다. 이러한 선정은 2022년에서 2023년 사이에 "환각하다"에 대한 사전 검색량이 46% 증가했으며, "환각(hallucination)"에 대한 검색량 또한 비슷한 수준으로 급증했음을 반영합니다. 그러나 이러한 급증의 원동력은 단어의 전통적인 defi가 아니라 AI 특유의 해석에 있습니다

환각을 일으키다 [huh-loo-suh-neyt] -동사- (인공지능에 대해) 사용자의 의도와 반대로 거짓 정보를 만들어내어 마치 사실인 것처럼 제시하다. 예: 챗봇이 환각을 일으킬 때, 그 결과는 종종 부정확할 뿐만 아니라 완전히 조작된 경우가 많다.

인공지능의 기만 능력

인공지능의 기만 가능성은 점점 더 큰 우려를 낳고 있습니다. 모든 인공지능 시스템이 이러한 행태를 보이는 것은 아니지만, 일부는 인간의 특성을 모방하도록 프로그래밍되어 정치적 대변인 역할을 하거나 사실을 전달하는 것처럼 가장하여 허위 정보를 퍼뜨릴 수 있습니다. 인공지능이 인간과 구별되는 가장 큰 특징은 허위 정보와 가짜 뉴스를 생산하는 데 있어 타의 추종을 불허하는 속도를 가지고 있다는 점입니다.

한 연구 발표된 는 이 문제의 심각성을 강조했습니다. 이 연구는 OpenAI의 GPT Playground가 단 65분 만에 백신과 전자담배에 대한 17,000단어 이상의 허위 정보를 생성했음을 보여주었습니다. 또한, 생성형 AI 도구는 2분도 채 안 되는 시간에 이러한 허위 정보에 어울리는 사실적인 이미지 20장을 만들어냈습니다. 이처럼 기만적인 콘텐츠가 빠르게 생성되는 것은 사람들이 사실과 허구를 구별하는 능력을 저해합니다.

인공지능 허위 정보의 의도치 않은 결과

인공지능 시스템은 기만하려는 의도가 없더라도 의도치 않게 잘못된 정보를 제공할 수 있습니다. 미국 병원약사협회(ASHP)의 연례 임상 회의에서 실시된 한 연구는 의료 분야에서 인공지능의 한계를 보여주었습니다. ChatGPT는 39개의 약물 관련 질문에 대해 단 10개만 만족스러운 답변을 제공했습니다. 예를 들어, 코로나19 항바이러스제인 팍슬로비드와 혈압약인 베라파밀을 병용해도 상호작용이 없다고 잘못 주장하여 기존 의학 지식과 상반되는 결과를 보였습니다.

인공지능이 잘못된 정보를 만들어내는 능력은 의료 분야를 넘어섭니다. 일부 인공지능 도구는 이미지를 잘못 해석하는 것으로 관찰되었는데, 예를 들어 여러 물체를 새로 오인하는 경우가 빈번합니다. 이코노미스트지는 2016년에 골든 게이트 브릿지가 이집트로 옮겨졌다는 질문에 대한 인공지능의 답변을 보여주는 사례를 공개했는데, 이는 인공지능이 사실과 허구를 구분하지 못하는 능력을 여실히 보여줍니다.

2021년 마이크로소프트의 Tay AI 챗봇dent AI가 유해한 콘텐츠를 생성할 가능성을 다시 한번 부각시켰습니다. 트위터에 합류한 지 24시간도 채 되지 않아 인종차별적이고 여성혐오적인 허위 트윗을 쏟아내기 시작했고, 이에 마이크로소프트는 즉시 플랫폼에서 Tay를 삭제했습니다. 이 사건은 AI가 인간의 부정적인 행동을 모방하는 경향이 있음을 보여주며, AI 개발 및 배포에 있어 윤리적 고려 사항에 대한 의문을 제기합니다.

심각한 건강 문제

인공지능이 만들어낸 환각은 인간의 환각과 마찬가지로 심각한 건강 문제를 야기할 수 있습니다. 잘못된 정보 전달이라는 즉각적인 영향 외에도 정신적, 정서적 건강에 악영향을 미칠 수 있습니다. 인공지능이 만들어낸 환각이 끊임없이 쏟아지면 현실 감각이 무너져 혼란과 불안감을 초래할 수 있습니다.

세계보건기구(WHO)와 미국 의학협회(AMA)와 같은 기관들은 이 문제의 심각성을 인식하고 인공지능(AI)이 생성하는 허위 정보와 잘못된 정보의 잠재적 위험성에 대해 경고하는 성명을 발표했습니다. Dictionary.com이 2023년 올해의 단어로 "환각을 일으키다(hallucinate)"를 선정한 것은 이 문제의 상징적matic 이지만, AI가 생성하는 환각이 제기하는 복잡한 문제에 대처하기 위해서는 지속적인 경계와 책임감 있는 AI 개발을 촉진하기 위한 공동의 노력이 필요합니다.