에픽 게임즈, 포트나이트의 인종차별적 AI 생성 이미지 제거

Kotaku의 보고에 따르면, 에픽 게임즈는 플레이어들의 항의에 대응하여 포터나이트에 의해 업로드된 인종차별적 AI 생성 이미지를 삭제하는 결단력 있는 조치를 취했습니다. 포터나트의 인기는 사용자가 자신의 맵을 만들고 공유할 수 있는 독특한 기능 덕분에 부분적으로 가능하며, 이는 게임 커뮤니티 내에서 창의성의 느낌을 고취합니다. 그러나 이러한 창의적 출구는 개입의 필요성을 촉발한 문제적인 콘텐츠의 업로드를 초래했습니다.

에픽 게임즈, AI 생성 인종차별 이미지에 대한 단호한 조치

최근 플레이어들은 포트나이트 내에서 인종차별적 고정관념을 조장하는 저속한 AI 생성 이미지가 포함된 아일랜드 맵들을 발견했습니다. 예를 들어 '아랍 존워즈', '나이지리아 존워즈', '중국 존워즈'라는 이름의 맵들과 함께, 중동 남성들이 폭탄을 들고 있거나 흑인 남성들이 프라이드 치킨을 먹는 등 공격적인 고정관념을 강화하는 이미지가 포함되었습니다.

이러한 맵들의 대부분은 상대적으로 적은 수의 서버 인구를 가지고 있었지만, 한 맵인 '자메이카 존워즈'는 이달 초 35,000명 이상의 활성 플레이어를 자랑했습니다. 에픽 게임즈는 신속하게 대응하여 이러한 공격적인 아일랜드 중 많은 수를 제거하고 관련 제작자에 대한 조치를 취했습니다.

회사는 "이와 유사한 썸네일 형식을 사용하는 콘텐츠 위반 섬 100개 이상을 이미 처리했으며 앞으로도 계속할 것"이라고 밝혔다. 에픽 게임스는 차별적인 콘텐츠가 포터나이트에서 용납될 수 없으며, 이는 회사의 섬 크리에이터 규칙을 위반하는 것이라고 강조했다.

이러한 가이드라인을 위반한 사용자는 계정 영구 정지 위험에 처할 수 있다. 포터나이트의 콘텐츠 통제에서 인간 검토는 모든 사용자 생성 콘텐츠가 게시되기 전에 팀이 검토하는 중요한 측면이다. 에픽 게임스는 위반 맵이 플레이어에게 도달하는 것을 최소화하기 위해 섬 크리에이터 규칙과 검토 교육 프로그램을 업데이트하는 작업을 적극적으로 진행하고 있다.

검토 및 향후 개선에 대한 약속

게시 전 검토에도 불구하고 검토 팀은 신중한 접근 방식을 채택하여 크리에이터의 의도를 선의로 가정하도록 권장한다. 에픽 게임스는 "콘텐츠 위반 여부가 불확실한 경우, 과도한 검열을 피하기 위해 크리에이터의 의도를 선의로 가정하도록 검토 팀에 요청한다"고 설명했다.

하지만 이러한 접근 방식은 부적절한 콘텐츠가 게시되는 사례를 초래하기도 한다. 이러한 경우 회사는 위반 자료를 신속하게 삭제하고 검토자에게 추가 교육 자료를 제공한다. 규칙을 위반한 크리에이터는 영구 게시 및 수익화 정지를 포함한 다양한 제재 조치를 받게 된다.

발행사는 섬 크리에이터 규칙과 검토 교육 프로그램을 업데이트하는 작업을 통해 이 문제를 적극적으로 해결하고 있다. 특히 에픽 게임스 스토어는 9월 생성형 AI 트렌드를 수용하여 AI 아트와 요소를 특징으로 하는 게임과 제출물을 허용했다. 이러한 변화는 경쟁 PC 게임 마켓플레이스인 스팀이 AI 콘텐츠를 처음에는 반대하다가 이러한 제출물이 증가함에 따라 규칙을 완화한 후속 조치였다.

에픽 게임스의 창립자이자 CEO인 팀 스위니는 트위터에서 회사가 새로운 기술을 사용한다는 이유로 게임을 금지하지 않는다고 강조했다. 이 발언은 같은 해 초 전체 자체 게시가 개방된 시점과 일치한다. AI 개발자들이 모델에서 공격적인 이미지를 제거하기 위해 지속적으로 노력하고 있지만, 사용자는 특수 프롬프트를 사용하여 모델을 "탈옥"하는 방법을 찾아냈다.

특히 10월에는 스폰지밥과 닌텐도의 커비 같은 캐릭터들이 부적절한 행위를 하는 AI 생성 이미지가 화제가 되었습니다. 에픽 게임즈는 포트나이트에서 인종차별적인 AI 생성 이미지에 대해 적극적으로 대응하며, 문제의 콘텐츠를 제거하고 규칙 위반에 대한 제재를 가하고 있습니다.