논란의 여지가 있는 출력을 생성하지 않도록 챗봇을 프로그래밍하는 것은 표현의 자유와 관련된 문제인가?

요즘 뜨거운 화두는 인공지능과 그것이 기존 기술, 예술, 문학에 미치는 영향입니다. 그리고 이제 인공지능을 통한 표현의 자유 역시 미국 수정헌법 제1조에 따라 보호받을 수 있는지에 대한 새로운 논쟁이 불거지고 있습니다. 연구자들은 인공지능의 초기 발전 단계부터 창의성, 문제 해결 능력, 음성 인식 등 인간 두뇌의 능력을 모방하려 노력해 왔습니다. 창의성은 인간 두뇌만의 고유한 능력으로 여겨지는 반면, 문제 해결 능력과 음성 인식은 인공지능이 어느 정도 구현해낼 수 있는 영역입니다.

챗봇 제미니가 논란이 될 만한 이미지를 생성했습니다

기본적으로 AI는 알고리즘 집합부터 기업의 데이터베이스 시스템이나 소셜 네트워킹 사이트와 같은 특정 플랫폼에서 수조 개의 결정을 내리는 시스템, 또는 챗봇에 이르기까지 무엇이든 될 수 있습니다. 2월 말, 구글은 챗봇 제미니(Gemini)의 서비스를 중단하고 사람 이미지를 생성하지 않겠다고 발표했습니다. 제미니가 역사적으로 백인이 지배적이었던 장면에서 유색인종이 등장하는 이미지를 생성하여 논란을 일으켰기 때문입니다. 비평가들은 구글이 편향성 문제를 해결하기 위해 챗봇을 수정하는 데 그치고 있다고 비판했습니다. 이에 대해 구글은 트위터를 통해 다음과 같이 밝혔습니다

"저희는 제미니의 이미지 생성 기능에서 최근 발생한 문제들을 해결하기 위해 이미 노력하고 있습니다. 이 작업이 진행되는 동안 사용자 이미지 생성 기능을 일시적으로 중단하고, 개선된 버전을 곧 다시 출시할 예정입니다."

출처: 구글.

밴더빌트 대학교의 조르디 칼베트-바데문트와 제이콥 므창가마 두 명의 저명한 학자는 AI의 편향성에 맞서 싸우고 정치적 성향에 대한 논의를 하는 것이 중요하지만, AI 분야가 표현의 자유를 어떻게 대해야 하는지에 대한, 종종 덜 논의되는 또 다른 질문을 제기했습니다.

연구진, AI의 표현의 자유 접근 방식 평가

연구진은 또한 업계의 표현의 자유에 대한 접근 방식이 국제적인 표현의 자유 기준에 부합한다면, 생성형 AI는 정보 접근성과 표현의 자유 측면에서 심각한 결함이 있음을 이번 연구 결과가 시사한다고 지적했습니다.

연구 과정에서 연구진은 구글 제미니 와 오픈AI의 챗GPT를 포함한 주요 AI 챗봇 6개의 정책을 평가했습니다 . 그들은 국제 인권법이 이러한 정책의 기준이 되어야 한다고 지적했지만, 기업 웹사이트의 혐오 발언 및 허위 정보 관련 정책은 지나치게 모호하다고 언급했습니다. 더 나아가 국제 인권법이 표현의 자유를 충분히 보호하지 못하고 있다는 점도 지적했습니다.

그들에 따르면, 구글과 같은 기업들은 혐오 발언에 대한 정책이 너무 포괄적입니다. 혐오 발언이 발생할 경우 구글이 콘텐츠 생성을 금지하기 때문입니다. 혐오 발언 자체는 바람직하지 않지만, 이처럼 포괄적이고 모호한 정책은 오히려 역효과를 초래할 수 있습니다. 연구자들이 트랜스젠더 여성의 스포츠 참여나 유럽의 식민주의와 같은 논란이 될 만한 질문을 했을 때, 40% 이상의 경우에서 챗봇이 콘텐츠 생성을 거부했습니다. 예를 들어, 모든 챗봇이 트랜스젠더 여성의 스포츠 참여에 반대하는 질문에는 답변을 거부했지만, 많은 챗봇이 그들의 참여를 지지하는 답변을 내놓았습니다.

표현의 자유는 미국에서 누구나 누릴 수 있는 기본권이지만, 모호한 정책들은 운영진의 주관적인 판단에 의존하여 혐오 발언을 규제하는 실정입니다. 전문가들은 대기업들의 정책이 사람들의 정보 접근권에 상당한 영향을 미칠 것이라고 지적했습니다. 또한, 콘텐츠 생성을 제한하는 것은 사람들이 혐오 콘텐츠를 생성하는 챗봇을 이용하도록 부추길 수 있으며, 이는 바람직하지 못한 결과로 이어질 수 있습니다.