앤트로픽은 클로드 챗봇이 정치 후보자들의 접근 금지 대상이라고 밝혔습니다

인공지능과 정치의 교차점은 허위 정보 확산과 조작에 대한 우려로 점점 더 복잡해지고 있습니다. ChatGPT의 경쟁 도구인 클로드를 개발한 앤트로픽은 최근 발표 . 이러한 결정은 민주주의 과정에서 AI가 제기하는 문제에 대응하기 위한 업계 전반의 광범위한 노력의 일환입니다.

Anthropic은 Claude를 통해 선거 부정 행위를 근절할 예정입니다

앤트로픽의 "선거 악용" 정책은 후보자가 클로드를 이용하여 자신을 사칭하는 챗봇을 만들거나 표적 정치 캠페인을 실행하는 것을 엄격히 금지합니다. 이 정책을 위반할 경우 경고 조치가 내려지며, 경우에 따라 앤트로픽 서비스 이용이 정지될 수 있습니다. 또한, 회사는 자사 AI 시스템의 잠재적 악용 가능성을 평가하기 위해 "레드팀 훈련"을 포함한 철저한 테스트를 실시합니다.

앤스로픽은 선거 관련 악용 방지 정책을 시행하는 것 외에도 터보보트(TurboVote)와 같은 단체와 협력하여 유권자에게 신뢰할 수 있는 정보를 제공합니다. 예를 들어, 미국에서 사용자가 투표 정보를 요청하면 초당파 단체인 데모크라시 웍스(Democracy Works)에서 제공하는 터보보트 웹사이트로 연결됩니다. 이와 유사한 조치가 다른 국가에서도 시행될 예정입니다.

ChatGPT를 개발한 OpenAI는 정치 분야에서 인공지능이 오용될 가능성을 막기 위해 선제적인 조치를 취하고 있습니다. 투표 정보를 찾는 사용자들을 비당파적인 웹사이트인 CanIVote.org로 안내하는 것입니다. 이러한 움직임은 정치적 맥락에서 인공지능의 활용을 규제하려는 기술 업계 전반의 움직임을 보여줍니다.

오용 방지를 위한 업계 전반의 노력

페이스북과 마이크로소프트를 비롯한 다른 거대 기술 기업들도 인공지능이 생성한 허위 정치 콘텐츠의 확산을 막기 위한 여러 조치를 시행하고 있습니다. 예를 들어 마이크로소프트는 "서비스형 콘텐츠dentContent Credits as a Service)"을 도입하고 허위 정보에 대응하기 위한 선거 커뮤니케이션 허브를 출범시켰습니다.

또한, 미국 연방통신위원회(FCC)는 자동 전화에 AI로 생성된 딥페이크 음성 사용을 금지하여 이 분야의 규제 필요성을 시급히 강조했습니다. AI로 생성된 정치인 복제본의 등장 또한 우려를 불러일으켰습니다. 오픈AI는dent단체인 퍼블릭 시티즌(Public Citizen)의 청원에 따라 대선 후보였던 딘 필립스 하원의원을 사칭하는 봇을 만든 개발자의 계정을 정지시켰습니다. 이 청원은 정치 캠페인에서 생성형 AI 사용을 금지할 것을 요구했습니다.

전반적으로, 앤트로픽(Anthropic)과 오픈AI(OpenAI)와 같은 기업들이 정치 분야에서 인공지능 사용을 규제하려는 노력은 민주주의 과정에서 인공지능이 지닌 잠재적 위험에 대한 인식이 높아지고 있음을 보여줍니다. 이러한 기업들은 엄격한 정책을 시행하고 비당파적인 단체들과 협력함으로써 정치 담론의 공정성을 유지하고 허위 정보와 조작을 방지하고자 합니다.

현실과 인공의 경계가 점점 모호해지는 시대에, 인공지능(AI) 것은 민주주의 체제의 건전성을 유지하는 데 매우 중요합니다. 기술이 계속 발전함에 따라, AI가 조작과 기만의 도구가 아닌 긍정적인 변화를 위한 원동력이 되도록 하기 위해서는 지속적인 경계와 선제적 조치가 필수적입니다.