오픈아이(OpenAI)는 월요일, 자사의 AI 비디오 도구인 소라(Sora)를 이용해 만들어지는 딥페이크 영상의 확산 문제를 해결하기 위해 브라이언 크랜스턴, 미국 배우 조합(SAG-AFTRA), 그리고 주요 할리우드 연예 단체들과 협력한다고 발표했습니다.
이는 지난 9월 말 소라 2 출시 직후 크랜스턴의 얼굴과 목소리가 담긴 가짜 영상이 온라인에 유포된 데 따른 것입니다. 크랜스턴은 해당 영상의 존재를 전혀 몰랐으며, 영상을 전달받은 후 불쾌감을 드러냈습니다.
X에 관련 내용을 게시한 SAG-AFTRA를 통해 크랜스턴은 다음과 같이 말했습니다. "OpenAI의 정책과 개선된 안전장치에 감사드리며, OpenAI를 비롯한 이 작업에 관련된 모든 회사들이 우리의 목소리와 초상권 복제를 관리할 개인적, 직업적 권리를 존중해 주기를 바랍니다."
그 성명은 오픈아이얼이 배우들의 신원 정보를 무단으로 사용하는 것을 막기 위해 SAG-AFTRA, 크랜스턴의 소속사인 유나이티드 탤런트 에이전시(UTA), 그리고 크리에이티브 아티스트 에이전시(CAA)와 탤런트 에이전트 협회(Association of Talent Agents)와 같은 주요 단체들과 협력할 것이라고 발표한 직후에 dent .
OpenAI는 Sora 2의 오용 문제로 여러 기관으로부터 질책을 받고 있습니다
OpenAI는 한동안 연예 기획사들로부터 거센 비난을 받아왔습니다. CAA와 UTA는 올해 초 OpenAI가 저작권이 있는 자료를 모델 학습에 사용했다며 Sora를 자사 고객의 지적 재산권을 위협하는 행위라고 강력하게 비판했습니다.
그러한 경고는 사용자들이 마틴 루터 킹 주니어 목사를 모욕하는 영상을 소라(Sora)에 올리기 시작하면서 현실이 되었습니다. 영상의 수위가 너무 높아 킹 목사 유족 측에서 지난주에 직접 나서서 차단을 요청했고, 오픈AI는 이에 응했습니다.
논란은 여기서 그치지 않았습니다. 고(故) 코미디언 로빈 윌리엄스의 딸인 젤다 윌리엄스 역시 요청했습니다 dent 에 대한 비판 여론에 더욱 불을 지폈습니다 .
불만이 쇄도하자 회사는 정책을 강화하기로 결정했습니다. 소라는 이미 음성 및 초상권 사용에 대한 동의를 요구해 왔지만, 오픈아이(OpenAI)는 이제 사칭이나 오용에 대한 모든 불만 사항에 신속하게 대응하겠다고 밝혔습니다.
샘 알트먼, 정책을 업데이트하고 가짜 상품 근절 법안 추진
10월 3일, 오픈AI의 CEO 샘 알트만은 기존 정책, 즉 저작권자가 허가하지 않는 한 어떤 자료든 사용할 수 있도록 허용했던 정책을 폐지한다고 공식 발표했습니다. 이제 오픈AI는 저작권자에게 "캐릭터 생성에 대한 더욱 세밀한 제어 권한"을 제공하며, 이는 에이전시들이 마침내 소라(Sora)에서 클라이언트의dent이 언제 어떻게 사용되는지 관리할 수 있게 되었다는 것을 의미합니다.
샘은 또한 무단 AI 복제를 막기 위한 미국 법안인 'NO FAKES Act'에 대한 지지를 재차 강조했습니다. 그는 "OpenAI는 공연자들의 목소리와 초상권이 무단으로 도용되는 것을 막기 위해 최선을 다하고 있습니다."라고 말하며, "저희는 작년에 NO FAKES Act가 발의되었을 때부터 일찌감치 지지해 왔으며, 앞으로도 공연자들의 권리를 항상 옹호할 것입니다."라고 덧붙였습니다
오픈AI는 연구 기관에서 시작해 채팅 앱, 소셜 플랫폼, 기업용 도구 등 모든 것을 쫓는 AI 제국으로 성장했습니다. 하지만 AI 칩에 수십억 달러를 투자했고, 거대한 데이터 센터 구축에도 여전히 cash부족한 상황에서, 정부 및 기업trac수주에 집중하고 있습니다. 따라서 소송을 피하고 관련 기관, 정부 관계자, 그리고 입법자들의 압박에서 벗어나는 것이 차세대 AI 모델 개발만큼이나 중요해졌습니다.
