논쟁적인 출력을 생성하지 않도록 채팅봇을 프로그래밍하는 것이 표현의 자유 문제입니까?

요즘의 뜨거운 주제는 인공지능과 기존 기술, 예술, 문학에 미치는 영향이며, 이제 AI 표현이 제1수정헌법 하에 어떤 종류의 보호를 받을지도 새로운 주제입니다. 연구원들은 창의성, 문제 해결, 음성 인식과 같은 인간 뇌 능력을 모방하기 위해 AI의 진화 초기부터 노력해 왔습니다. 첫 번째 것은 인간 뇌에만 고유한 운동으로 간주되는 반면, 후자는 AI의 접근 방식에 어느 정도 있습니다.

채팅봇 Gemini가 논쟁적인 이미지를 생성함

기본적으로 AI는 알고리즘 세트부터 회사의 데이터베이스 설정이나 소셜 네트워킹 사이트와 같은 특정 플랫폼에서 수조 개의 결정을 내리는 시스템까지 다양할 수 있으며, 채팅봇일 수도 있습니다. 2월 말, Google은 채팅봇 Gemini를 중단했으며 사람들이 이미지를 생성하지 않을 것이라고 말했습니다. 이유는 Gemini가 역사적으로 백인들에게 지배된 장면에서 유색 인종이 있는 장면의 이미지를 생성하여 논란을 일으켰기 때문입니다. 비판가들은 회사가 편견 위험에 대해 봇을 과도하게 수정하는지 여부를 말했고, Google은 X에서 트윗했습니다.

“우리는 이미 Gemini의 이미지 생성 기능과 관련된 최근 문제를 해결하기 위해 작업하고 있습니다. 우리가 이것을 하는 동안, 우리는 사람들의 이미지 생성을 일시 중단하고 곧 개선된 버전을 다시 출시할 것입니다.”

출처: Google.

Vanderbilt University의 Jordi Calvet-Bademunt과 Vanderbilt University의 Jacob Mchangama를 포함한 두 명의 고급 학자에 따르면, AI의 편견과 정치적 성향에 대한 논의를 싸우는 노력이 중요하지만, 그들은 종종 덜 논의되는 또 다른 질문을 제기했으며, 이는 AI 섹터의 표현의 자유에 대한 접근 방식에 관한 것입니다.

연구원들이 AI의 표현의 자유 접근 방식을 평가함

연구원들은 또한 산업의 표현의 자유 접근 방식이 국제 표현의 자유 기준과 일치하는지 지적했습니다. 그들은 생성적 AI가 정보 접근 및 자유 표현에 대해 중요한 결함이 있다는 그들의 발견을 제안한다고 말했습니다.

연구 동안, 그들은 주요 Google Gemini 및 OpenAI의 ChatGPT를 포함한 여섯 개의 AI 채팅봇의 정책을 평가했습니다. 그들은 국제 인권법이 이러한 정책의 기준이 되어야 하지만, 혐오 발언 및 허위 정보에 대한 회사의 사이트의 실제 사용 정책이 너무 모호하다고 지적했습니다. 국제 인권법이 자유 표현을 많이 보호하지 않음에도 불구하고.

그들에 따르면, Google과 같은 회사는 너무 광범위한 혐오 발언 정책을 가지고 있어, 그러한 사건이 발생하면 Google이 콘텐츠 생성을 금지합니다. 혐오 speech은 바람직하지 않지만, 너무 광범위하고 모호한 정책은 역효과를 낼 수도 있습니다. 연구원들이 트랜스 여성들의 스포츠 참여나 유럽 식민지화와 관련된 논쟁적인 질문을 했을 때, 40% 이상의 경우에서 채팅봇이 콘텐츠 생성을 거부했습니다. 예를 들어, 모든 채팅봇이 트랜스 여성들의 참여에 반대하는 질문에 답변하는 것을 거부했지만, 많은 채팅봇이 그들의 참여를 지지했습니다.

표현의 자유는 미국에서 모든 사람의 기본 권리이지만, 모호한 정책은 혐오 발언에 대한 이해에 대해 주관적인 중재자의 의견에 의존합니다. 전문가들은 대형 회사의 정책이 사람들의 정보 접근 권리에 상당한 영향을 미칠 것이라고 지적했습니다. 그리고 콘텐츠 생성 거부는 사람들이 혐오 콘텐츠를 생성하는 채팅봇을 사용하도록 부추길 수 있으며, 이는 나쁜 결과가 될 것입니다.