Приложение Sora от OpenAI, ставшее вирусным благодаря использованию ИИ в видеороликах, вызвало дискуссию о дипфейках

Новейшее приложение OpenAI для создания видео с использованием искусственного интеллекта, Sora 2, быстро завоевало популярность после недавнего привлечения 6,6 миллиардов долларов за счет продажи акций, что укрепило позиции технологического гиганта как самой дорогой частной компании в мире.

Этот успех был достигнут после того, как приложение заняло третье место в App Store от Apple, несмотря на то, что для доступа к нему пользователям требовался код приглашения. Кроме того, это привело к появлению дипфейк-видео, включая известный ролик, где генеральный директор Сэм Альтман якобы крадет графические процессоры.

Между тем, этот запуск вызвал продолжительную дискуссию о том, как найти правильный баланс между безопасностью и проявлением творчества внутри технологической компании.

Впоследствии источник, знакомый со стратегией OpenAI, пожелавший остаться анонимным в связи сdentхарактером ситуации, отметил, что руководство компании считает введение строгих правил необходимым, но также опасается, что эти правила могут ограничить творчество или показаться слишком контролирующими. На сегодняшний день эта проблема еще не решена.

OpenAI делает ставку на скорость для сохранения своего конкурентного преимущества

Эта стратегия стала особенноdent после того, как китайская компания DeepSeek в конце прошлого года представилаtronмодель разработки, которая оказалась дешевле и быстрее в создании, чем любые продукты из Силиконовой долины. 

В ответ на это OpenAI оперативно запустила две новые модели в течение нескольких недель, что, по мнению ряда аналитиков, является способом поддержания конкурентного преимущества. Примечательно, что растущая институциональная мощь компании является значительным стимулом для стратегии технологического гиганта. 

Изначально это была небольшая исследовательская лаборатория в районе Мишн в Сан-Франциско. Со временем компания стала более организованной, что позволило ей быстро формировать межфункциональные команды и ускорять процесс разработки и выпуска таких продуктов, как Sora. 

Что касается Sora, OpenAI подчеркнула, что продукт имеет несколько уровней защиты, предназначенных для предотвращения создания небезопасного контента. Компания добавила, что использует оперативную фильтрацию и модерацию выходных данных для видеокадров и аудиозаписей.

Технологический гигант также отметил, что приложение запрещает контент откровенного характера, террористическую пропаганду и контент, призывающий к членовредительству. Более того, Sora использует водяные знаки и не допускает подделки изображений. Однако некоторые пользователи уже нашли способы обойти эти меры безопасности.

Контент OpenAI подвергается критике из-за опасений по поводу безопасности 

Что касается видеоприложения OpenAI, то, по данным надежных источников, в нескольких известных видеороликах фигурирует Альтман, получивший разрешение на использование своего изображения на платформе. В то же время, в других роликах популярные мультяшные персонажи, такие как Пикачу и Губка Боб Квадратные Штаны, показаны в откровенно сексуальных сценах.

Этот контент вызвал критику в адрес OpenAI поспешные действия без надлежащей защиты. Кроме того, использование материалов, защищенных авторским правом, если только правообладатели не решат отказаться от своих прав, соответствует текущей политике компании, хотя она по-прежнему сталкивается с юридическими проблемами.

Альтман отмахнулся от подобных опасений; в сообщении для X он заявил, что Sora призвана продемонстрировать возможности технологии и вызвать коммерческий интерес к более широким целям OpenAI, связанным с искусственным общим интеллектом (AGI).

Запуск происходит на фоне усиливающейся конкуренции. На прошлой неделе Meta запустила Vibes, новый сервис коротких видеороликов с использованием ИИ, интегрированный в приложение Meta AI. Google также разрабатывает Veo 3, а ByteDance и Alibaba представили конкурирующие системы.

Тем временем компания OpenAI только что объявила об очередных инвестициях в размере 850 миллиардов долларов для усиления инфраструктуры и вложения средств в модели следующего поколения. Эксперты говорят, что переход к видеоконтенту направлен наtracбольшего числа пользователей с помощью еще одного привлекательного потребительского приложения.