AI 챗봇이 선거 허위정보를 확산시킨다는 연구 결과

최근 조사에서 2024 년 선거와 관련하여 AI 챗봇이 거짓 및 오해의 소지가 있는 정보를 유포하는 우려스러운 추세가 드러났다. 이 발견은 비영리 미디어 조직인 Proof News 와 협력하여 수행된 AI 민주주의 프로젝트의 공동 연구를 통해 밝혀졌다. 이 결과는 정치 담론에서 AI 가 중요한 역할을 계속하고 있는 가운데 규제 감독의 시급한 필요성을 강조한다.

중요한 시기의 허위정보

이 연구는 이러한 AI 생성 오류가 미국의 대통령 예비선거라는 중요한 시기에 나타나고 있음을 지적합니다. 선거 관련 정보를 위해 AI를 활용하는 사람들이 늘어나면서 잘못된 정보의 확산은 특히 우려스럽습니다. 이번 연구에서는 OpenAI의 ChatGPT-4, Meta의 Llama 2, Anthropic의 Claude, Google의 Gemini, 그리고 프랑스 기업 Mistral의 Mixtral 등 다양한 AI 모델을 테스트했습니다. 그 결과 이러한 플랫폼들이 유권자에게 잘못된 투표 장소, 불법 투표 방법, 허위 등록 마감일 등 여러 오정보를 제공하는 것으로 드러났습니다.

경고 사례 중 하나는 Llama 2가 캘리포니아 유권자가 문자 메시지로 투표를 할 수 있다고 주장한 것입니다. 이는 미국에서 불법인 방법입니다. 또한 테스트된 모든 AI 모델은 텍사스 주 투표소에서 MAGA 모자 등 캠페인 로고가 있는 의류 착용을 금지한다는 사실을 정확히 파악하지 못했습니다. 이처럼 잘못된 정보가 광범위하게 유포되면 유권자를 혼란에 빠뜨리고 선거 과정을 훼손할 위험이 있습니다.

산업계의 대응과 대중의 우려

AI 에 의한 오정보의 확산은 기술 업계와 대중 모두로부터 대응을 촉발했습니다. 일부 기술 기업들은 실수를 인정하고 이를 시정하겠다고 약속했습니다. 예를 들어, Anthropic 는 정확한 선거 정보를 담은 자체 AI 도구의 업데이트 버전을 출시할 계획입니다. OpenAI 또한 도구가 활용되는 방식이 진화함에 따라 지속적으로 접근 방식을 정제하겠다는 의사를 표명했습니다. 반면, Meta 는 이러한 결과를 '의미가 없다'며 일축하여 논란을 불러일으켰고, 이는 기술 업계가 오정보를 억제하려는 의지를 가지고 있는지 의문을 제기합니다.

대중의 우려도 커지고 있습니다. AP-NORC 공공정책연구센터와 시카고 대학교 해리스 공공정책대학이 실시한 설문조사에 따르면, 선거 연도에 AI 도구가 허위 및 오해의 소지가 있는 정보의 확산에 기여할 것이라는 광범위한 두려움이 드러났습니다. 이러한 우려는 구글의 제미니 AI 가 역사적으로 부정확하고 인종적으로 무감각한 이미지를 생성한 최근 사건들로 인해 더욱 증폭되었습니다.

규제와 책임에 대한 요구

이 연구의 결과는 정치 맥락에서 AI 사용 규제를 위한 입법 조치의 시급성을 강조합니다. 현재 정치 분야 AI를 규율하는 구체적인 법률의 부재로 인해 기술 기업들이 자율 규제를 수행하고 있는데, 이로 인해 정보 정확성에 있어 중대한 허점이 발생했습니다. 이 연구 발표 약 2 주 전, 기술 기업들은 유권자들이 합법적인 투표 절차에 대해 오해할 수 있는 사실과 유사한 콘텐츠 생성을 방지하기 위해 예방 조치를 자발적으로 채택하기로 합의했습니다. 그러나 최근 발생한 오류와 허위 정보는 이러한 자발적 조치가 효과적인지에 의문을 제기합니다.

AI 가 일상생활의 모든 측면, 정치 영역까지 통합되면서 포괄적이고 강제력 있는 규제 필요성이 점점 더 명확해지고 있습니다. 이러한 규제는 선거와 같은 중요한 민주주의 과정과 관련된 경우 AI 생성 콘텐츠가 정확하도록 보장하는 것을 목표로 해야 합니다. 산업계의 책임성과 규제 감독의 조합을 통해서만 대중이 AI 를 정보원으로 신뢰하고 이를 유지할 수 있습니다.

AI 챗봇이 선거 허위 정보를 유포한다는 최근 연구는 정치 분야에서 규제되지 않은 AI 의 잠재적 위험에 대한 경종입니다. 기술 기업들이 이러한 문제를 해결하기 위해 노력하는 가운데, 정부의 감독 역할은 과소평가될 수 없습니다. 선거 관련 정보의 무결성을 보장하는 것은 민주주의 가치와 절차를 수호하는 데 가장 중요합니다.