OpenAI сотрудничает с Брайаном Крэнстоном и SAG-AFTRA для борьбы с дипфейками Sora

OpenAI заявила в понедельник, что объединяет усилия с Брайаном Крэнстоном, SAG-AFTRA и ведущими голливудскими агентствами талантов для решения растущей проблемы дипфейков, созданных с помощью ее инструмента для видео на базе ИИ, Sora.

Это произошло после того, как в сети появились фальшивые клипы с лицом и голосом Крэнстона сразу после запуска Sora 2 в конце сентября. Крэнстон не знал об их существовании, пока их не показали ему, и он был недоволен.

Выступая через SAG-AFTRA, которая опубликовала об этом в X, Крэнстон сказал: «Я благодарен OpenAI за ее политику и улучшение защитных механизмов и надеюсь, что они и все компании, участвующие в этой работе, будут уважать наше личное и профессиональное право управлять воспроизведением нашего голоса и внешности».

Эта строка появилась в тот момент, когда OpenAI объявила о сотрудничестве с SAG-AFTRA, агентством Крэнстона United Talent Agency (UTA) и другими ведущими группами, такими как Creative Artists Agency (CAA) и Association of Talent Agents, чтобы пресечь несанкционированное использование идентичностей актеров.

OpenAI сталкивается с критикой агентств из-за misuse 2 Sora

OpenAI уже некоторое время подвергается критике со стороны агентств талантов. И CAA, и UTA ранее в этом году раскритиковали компанию за использование защищенных авторским правом материалов для обучения своих моделей, назвав Sora прямой угрозой интеллектуальной собственности их клиентов.

Эти предупреждения стали реальностью, когда пользователи начали загружать неуважительные видео с Мартином Лютером Кингом-младшим в Sora. Видео были настолько плохими, что наследники Кинга вынуждены были вмешаться на прошлой неделе и попросить заблокировать их, и OpenAI выполнила это требование.

На этом жар не прекратился. Зельда Уильямс, дочь покойного комика Робина Уильямса, также попросила людей перестать присылать ей созданные ИИ видео с ее отцом после выхода Sora 2. Она публично выразила свое недовольство вскоре после запуска, добавив масла в огонь, который уже разгорался вокруг слабого контроля OpenAI над защитой идентичности.

По мере накопления жалоб компания решила ужесточить свою политику. Sora уже требовала согласия на использование голоса и внешности, но OpenAI заявила, что теперь также обязуется быстро реагировать на любые жалобы на имитацию или misuse.

Сэм Альтман обновляет политику и поддерживает закон NO FAKES Act

3 октября генеральный директор OpenAI Сэм Альтман официально объявил: старая политика, позволявшая компании использовать материалы, если никто не сообщал об обратном, отменена. Теперь компания предоставляет правообладателям «более детальный контроль над созданием персонажей», что означает, что агентства наконец могут управлять тем, как и когда идентичности их клиентов используются в Sora.

Сэм также удвоил свою поддержку закона NO FAKES Act, законопроекта США, направленного на предотвращение несанкционированного создания ИИ-реплик. «OpenAI глубоко привержена защите исполнителей от присвоения их голоса и внешности», — сказал он. «Мы были ранними сторонниками закона NO FAKES Act, когда он был представлен в прошлом году, и всегда будем стоять на защите прав исполнителей».

OpenAI превратилась из исследовательской организации в ИИ-империю, преследующую все подряд; чат-приложения, социальные платформы и корпоративные инструменты. Но с миллиардами долларов, заблокированными в ИИ-чипах, и ее гигантским строительством дата-центров, которое все еще нуждается в деньгах, она внимательно присматривается к государственным и корпоративным контрактам, чтобы оплатить счета. Это означает, что избегание судебных исков и получение поддержки со стороны актеров, агентов и законодателей теперь так же важно, как и обучение следующей ИИ-модели.