에픽 게임즈, 포트나이트에서 인종차별적인 AI 생성 이미지 삭제 예정

코타쿠 보도 에 따르면, 에픽 게임즈는 플레이어들의 거센 항의에 대응하여 포트나이트에 올라온 인종차별적인 AI 생성 이미지를 삭제하는 단호한 조치를 취했습니다 . 포트나이트의 인기는 사용자들이 자신만의 맵을 만들고 공유할 수 있는 독특한 기능 덕분이며, 이는 게임 커뮤니티 내에서 창의성을 고취시켜 왔습니다. 그러나 이러한 창의적인 활동은 문제가 되는matic , 이에 대한 조치가 필요하게 되었습니다. 의 업로드로 이어지기도 하여

에픽 게임즈, AI 생성 인종차별 이미지에 대한 단호한 조치 시행

최근 포트나이트 플레이어들은 게임 내에서 인종차별적 고정관념을 조장하는 조잡한 AI 생성 이미지가 포함된 섬 지도를 발견했습니다. 예를 들어 "아랍 전쟁 지역", "나이지리아 전쟁 지역", "중국 전쟁 지역"과 같은 지도에는 중동 남성이 폭탄을 들고 있거나 흑인 남성이 프라이드 치킨을 먹는 모습 등 공격적인 고정관념을 강화하는 이미지가 함께 표시되었습니다.

이러한 맵들 대부분은 서버 접속자 수가 비교적 적었지만, "자메이카 존워즈"라는 맵은 이달 초 3만 5천 명이 넘는 활성 플레이어를 기록했습니다. 에픽 게임즈는 이에 즉각 대응하여 문제의 섬들을 다수 삭제하고 관련 제작자들을 제재했습니다.

회사 측은 "이미 100개 이상의 섬에서 유사한 썸네일 형식을 사용하는 콘텐츠 위반 사례를 처리했으며 앞으로도 계속해서 조치를 취할 것"이라고 밝혔습니다. 에픽 게임즈는 차별적인 콘텐츠는 포트나이트에 설 자리가 없으며, 이는 섬 제작자 규칙을 위반하는 행위라고 강조했습니다.

이러한 지침을 위반하는 사용자는 계정이 영구 정지될 수 있습니다. 포트나이트에서는 콘텐츠 관리에 있어 사람의 개입이 매우 중요하며, 모든 사용자 제작 콘텐츠는 게시되기 전에 검토팀의 검토를 거칩니다. 에픽 게임즈는 플레이어에게 배포되는 위반 콘텐츠의 발생 빈도를 최소화하기 위해 섬 제작 규칙 및 검토 교육 프로그램을 적극적으로 업데이트하고 있습니다.

절제된 운영 방식과 향후 개선에 대한 약속

게시 전 검토에도 불구하고, 콘텐츠 검열팀은 신중한 접근 방식을 취하며, 검열 담당자들에게 콘텐츠 제작자의 의도가 선의라고 가정하도록 권장합니다. 에픽 게임즈는 "콘텐츠 위반 여부가 불확실한 경우, 과도한 검열을 방지하기 위해 콘텐츠 제작자의 의도가 선의라고 가정하도록 검열팀에 요청하고 있습니다."라고 설명했습니다

하지만 이러한 접근 방식은 부적절한 콘텐츠가 게시되는 사례로 이어지기도 합니다. 이러한 경우, 회사는 문제가 되는 콘텐츠를 신속하게 삭제하고 관리자에게 추가 교육 자료를 제공합니다. 규칙을 위반한 크리에이터는 영구적인 게시 및 수익 창출 금지를 포함한 다양한 제재 조치를 받게 됩니다.

해당 퍼블리셔는 섬 생성기 규칙 업데이트 및 관리자 교육 프로그램 개발을 통해 이 문제를 적극적으로 해결하고 있습니다. 특히, 에픽 게임즈 스토어는 지난 9월 AI 기반 게임 트렌드를 수용하여 AI 아트 및 요소를 활용한 게임과 출품작을 허용했습니다. 이러한 변화는 경쟁 PC 게임 마켓플레이스인 스팀의 입장 변화에 따른 것으로, 스팀은 처음에는 AI 콘텐츠에 반대했지만 관련 출품작이 증가함에 따라 규칙을 완화했습니다.

에픽 게임즈의 창립자이자 CEO인 팀 스위니는 트위터를 통해 회사가 새로운 기술을 사용하는 게임을 금지하지 않는다고 강조했습니다. 이 발언은 같은 해 초 자체 퍼블리싱이 완전히 허용된 시점과 맞물려 있었습니다. AI 개발자들이 모델에서 불쾌감을 주는 이미지를 제거하기 위해 지속적으로 노력하고 있음에도 불구하고, 사용자들은 특수한 명령어를 이용해 모델을 "탈옥"하는 방법을 찾아냈습니다.

특히 지난 10월에는 스폰지밥이나 닌텐도의 커비 같은 캐릭터들이 부적절한 행동을 하는 모습이 담긴 AI 생성 이미지가 온라인에서 큰 화제를 모았습니다. 에픽 게임즈는 포트나이트 내 인종차별적인 AI 생성 이미지 문제에 적극적으로 대응하여 , 문제가 되는 콘텐츠를 삭제하고 규칙 위반 시 제재를 가하고 있습니다.