오픈AI, 소라 딥페이크 근절을 위해 브라이언 크랜스턴 및 SAG-AFTRA와 파트너십 체결

오픈AI는 월요일 브라이언 크랜스턴, SAG-AFTRA 및 주요 할리우드 인재 그룹과 협력하여 자체 AI 비디오 도구 소라(Sora)를 이용해 생성된 딥페이크 증가 문제를 해결하겠다고 밝혔습니다.

이는 9월 말 소라 2가 출시된 직후 온라인에 크랜스턴의 얼굴과 목소리를 모방한 가짜 영상이 등장한 이후의 조치입니다. 크랜스턴은 이 영상들이 존재한다는 사실을 공유받기 전까지는 전혀 알지 못했으며, 이에 대해 불쾌감을 표시했습니다.

SAG-AFTRA를 통해 발언한 크랜스턴은 X에 게시된 성명에서 "OpenAI의 정책과 가드레일 개선에 감사드리며, 이 작업에 관여한 모든 기업이 우리 목소리와 외모의 복제를 관리할 개인적·전문적 권리를 존중하기를 바란다"고 말했다.

이 발언은 오픈AI가 SAG-AFTRA, 크랜스턴의 에이전시 유나이티드 테이런트 에이전시(UTA), 그리고 크리에이티브 아티스츠 에이전시(CAA)와 에이전트 협회(Association of Talent Agents) 등 주요 그룹과 제휴하여 배우들의 신원 무단 사용을 근절하겠다고 발표한 시점과 일치합니다.

Sora 2 오용과 관련해 에이전시들의 OpenAI 비판

OpenAI는 오랫동안 인재 에이전시들의 비판을 받아왔다. CAA와 UTA는 올해 초 저작권이 있는 자료를 사용해 모델을 학습시키는 것에 대해 강하게 비판하며, Sora가 클라이언트의 지적재산권에 대한 직접적인 위협이라고 지적했다.

마틴 루터 킹 주니어에 대한 무례한 영상들이 Sora에 업로드되면서 이러한 경고가 현실이 되었다. 영상들이 너무 심각해 킹의 재단이 지난주 이를 차단해 달라고 요청했고, OpenAI는 이에 응했다.

열기는 여기서 그치지 않았습니다. 고인 로빈 윌리엄스의 딸인 젤다 윌리엄스도 소라 2(Sora 2) 출시 후 아버지와의 AI 생성 영상을 보내는 것을 중단해 달라고 요구했습니다. 그녀는 출시 직후 불만을 공개적으로 표명하며, 이미 오픈AI의 신원 보호 장치 느슨함에 대한 논란에 불을 붙였습니다.

불만이 쌓이자 회사는 정책을 강화하기로 결정했다. Sora는 이미 음성 및 외모 사용에 대해 옵트인 동의를 요구해 왔지만, OpenAI는 이제 대리인이나 오용과 관련된 모든 불만에 신속하게 대응하겠다고 약속했다.

샘 올트먼, 정책 업데이트 및 NO FAKES 법안 지지

10월 3일, OpenAI CEO 샘 올트먼은 기존 정책, 즉 누군가 반대하지 않는 한 회사가 자료를 사용할 수 있었던 정책을 폐기했다고 공식 발표했다. 이제 회사는 권리자에게 "캐릭터 생성에 대한 더 세분화된 통제권"을 부여하며, 에이전시가 클라이언트의 신원이 Sora에서 어떻게, 언제 사용되는지 관리할 수 있게 되었다.

샘은 또한 무단 AI 복제를 방지하기 위한 미국 법안인 NO FAKES 법안에 대한 지지를 강화했다. 그는 "OpenAI는 배우들의 목소리와 외모가 부적절하게 사용되는 것을 보호하기 위해 깊이committed(헌신)되어 있다"며 "우리는 작년 이 법안이 도입되었을 때 초기 지지자였으며, 배우들의 권리를 항상 지지할 것"이라고 말했다.

OpenAI는 연구 기관에서 모든 분야(채팅 앱, 소셜 플랫폼, 기업용 도구 등)를 추구하는 AI 제국으로 변모했다. 하지만 AI 칩에 수십억 달러가 묶여 있고, 거대한 데이터 센터 건설 프로젝트가 여전히 자금이 필요하기 때문에, 회사는 정부 및 기업 계약을 통해 비용을 충당하려 하고 있다. 이는 즉, 다음 AI 모델을 훈련시키는 것만큼이나 소송을 피하고 배우, 에이전트, 정치인들을 자신들의 편으로 만드는 것이 중요해졌다는 것을 의미한다.