최근 조사에 따르면 인공지능(AI) 챗봇이 2024년 대선과 관련하여 허위 및 오해의 소지가 있는 정보를 유포하는 심각한 추세가 드러났습니다. 이러한 사실은 AI 민주주의 프로젝트(AI Democracy Projects)와 비영리 미디어 단체인 프루프 뉴스(Proof News)가 공동으로 진행한 연구에서 밝혀졌습니다. 이번 연구 결과는 AI가 정치 담론에서 중요한 역할을 계속해서 수행하는 만큼 규제 감독의 필요성이 시급함을 강조합니다.
중요한 시기에 유포되는 잘못된 정보
이 연구는 미국 대통령dent선거라는 중요한 시기에 AI가 생성한 이러한 부정확한 정보가 나타나고 있음을 지적합니다. 선거 관련 정보를 얻기 위해 AI에 의존하는 사람들이 늘어남에 따라 잘못된 정보의 확산은 특히 우려스러운 문제입니다. 연구팀은 OpenAI의 ChatGPT-4, Meta의 Llama 2, Anthropic의 Claude, Google의 Gemini, 그리고 프랑스 기업 Mistral의 Mixtral 등 다양한 AI 모델을 테스트했습니다. 그 결과, 이러한 플랫폼들이 유권자들에게 잘못된 투표소 위치, 불법 투표 방식, 허위 등록 마감일 등 여러 가지 잘못된 정보를 제공하는 것으로 나타났습니다.
우려스러운 사례 중 하나는 Llama 2가 캘리포니아 유권자들이 문자 메시지를 통해 투표할 수 있다고 주장한 것인데, 이는 미국에서 불법적인 방법입니다. 더욱이, 테스트된 AI 모델 중 어느 것도 텍사스 투표소에서 MAGA 모자와 같은 선거 로고가 새겨진 복장 착용이 금지되어 있다는 사실을 정확하게 파악dent. 이처럼 광범위하게 유포되는 허위 정보는 유권자들을 오도하고 선거 과정을 훼손할 가능성이 있습니다.
업계의 반응 및 대중의 우려
인공지능(AI)으로 인한 허위 정보 확산은 기술 업계와 대중 모두의 대응을 불러일으켰습니다. 일부 기술 기업들은 오류를 인정하고 수정하겠다고 약속했습니다. 예를 들어, 앤트로픽(Anthropic)은 정확한 선거 정보를 담은 AI 도구의 업데이트 버전을 출시할 예정입니다. 오픈아이(OpenAI) 또한 도구 활용 방식의 변화에 맞춰 지속적으로 개선해 나가겠다고 밝혔습니다. 그러나 메타(Meta)가 해당 결과를 "무의미하다"고 일축하면서 논란이 일었고, 허위 정보 근절에 대한 기술 업계의 진정성에 의문이 제기되고 있습니다.
대중의 우려 또한 커지고 있습니다. AP-NORC 공공문제연구센터와 시카고대학교 해리스 공공정책대학원이 공동으로 실시한 설문조사에 따르면, 인공지능 도구가 선거 기간 동안 허위 및 오해의 소지가 있는 정보 확산에 기여할 것이라는 우려가 널리 퍼져 있는 것으로 나타났습니다. 이러한 우려는 최근 구글의 제미니 AI가 역사적으로 부정확하고 인종차별적인 이미지를 생성한dent으로 더욱 증폭되고 있습니다.
규제와 책임에 대한 요구
이번 연구 결과는 정치적 맥락에서 인공지능(AI) 사용을 규제하기 위한 입법 조치의 시급성을 강조합니다. 현재 정치 분야에서 AI를 규제하는 구체적인 법률이 없어 기술 기업들이 자율 규제에 의존하고 있으며, 이로 인해 정보 정확성에 심각한 오류가 발생하고 있습니다. 연구 발표 약 2주 전, 기술 기업들은 유권자들에게 합법적인 투표 절차에 대한 잘못된 정보를 제공하는 허위 콘텐츠를 생성하는 것을 방지하기 위한 예방 조치를 자발적으로 채택하기로 합의했습니다. 그러나 최근 발생한 오류와 허위 정보는 이러한 자발적 조치의 효과에 의문을 제기합니다.
인공지능(AI)이 정치 영역을 포함한 일상생활의 모든 측면에 통합됨에 따라, 포괄적이고 실효성 있는 규제의 필요성이 점점 더 분명해지고 있습니다. 이러한 규제는 특히 선거와 같은 중요한 민주적 절차와 관련된 AI 생성 콘텐츠의 정확성을 보장하는 데 초점을 맞춰야 합니다. 업계의 책임과 규제 감독이 결합될 때에만 정보원으로서 AI에 대한 대중의 신뢰를 회복하고 유지할 수 있습니다.
최근 인공지능 챗봇이 선거 관련 허위 정보를 유포하는 사례에 대한 연구는 규제되지 않은 인공지능이 정치 영역에 미칠 수 있는 잠재적 위험성에 대한 경각심을 일깨워줍니다. 기술 기업들이 이러한 문제들을 해결하기 위해 노력하는 가운데, 정부의 감독 역할은 결코 과소평가될 수 없습니다. 선거 관련 정보의 신뢰성을 확보하는 것은 민주적 가치와 절차를 수호하는 데 매우 중요합니다.
