O aplicativo de vídeos com IA da OpenAI, Sora, que viralizou, desencadeia debate sobre deepfakes

O Sora 2, o mais recente aplicativo de vídeo com IA da OpenAI, ganhou popularidade rapidamente após levantar US$ 6,6 bilhões em uma oferta pública inicial de ações, consolidando a posição da gigante da tecnologia como a empresa privada mais valiosa do mundo.

Esse sucesso foi alcançado depois que o aplicativo garantiu a terceira posição na App Store da Apple, apesar de os usuários precisarem de um código de convite para acessá-lo. Além disso, levou ao surgimento de vídeos deepfake, incluindo um vídeo famoso do CEO Sam Altman supostamente roubando GPUs.

Entretanto, esse lançamento desencadeou uma discussão contínua sobre como encontrar o equilíbrio certo entre segurança e expressão da criatividade dentro da empresa de tecnologia.

Na sequência, uma fonte interna familiarizada com a estratégia da OpenAI, que preferiu permanecer anônima devido à naturezadentda situação, apontou que a liderança da empresa acredita que a imposição de regras rigorosas é essencial, mas também teme que essas regras possam restringir a criatividade ou serem percebidas como excessivamente controladoras. Até o momento, essa questão ainda não foi abordada.

A OpenAI adota a velocidade para manter sua vantagem competitiva

Essa estratégia tornou-se particularmentedent depois que a DeepSeek, da China, apresentou no final do ano passado um modelotron, mais barato e mais rápido de desenvolver do que qualquer coisa vinda do Vale do Silício. 

Em resposta, a OpenAI lançou rapidamente dois novos modelos em poucas semanas, o que vários analistas interpretaram como uma estratégia para manter sua vantagem competitiva. Notavelmente, seu crescente fortalecimento institucional representa um impulso significativo para a estratégia da gigante da tecnologia. 

Inicialmente, começou como um pequeno laboratório de pesquisa no bairro Mission, em São Francisco. Tornou-se uma empresa mais organizada, o que lhe permite formar equipes multifuncionais rapidamente e acelerar o processo de desenvolvimento e lançamento de produtos como o Sora. 

Em relação ao Sora, a OpenAI destacou que o produto possui diversas camadas de proteção projetadas para impedir a criação de conteúdo inseguro. A empresa acrescentou que utiliza filtragem imediata e moderação de saída para quadros de vídeo e transcrições de áudio.

A gigante da tecnologia também destacou que o aplicativo proíbe conteúdo explícito, propaganda terrorista e conteúdo que promova a automutilação. Além disso, o Sora utiliza marcas d'água e não permite a falsificação de imagens. No entanto, alguns usuários já descobriram maneiras de contornar essas medidas de segurança.

O conteúdo da OpenAI enfrenta críticas devido a preocupações com a segurança 

Em relação ao aplicativo de vídeo da OpenAI, fontes confiáveis ​​observaram que vários vídeos famosos contam com a participação de Altman, após ele ter autorizado o uso de sua imagem na plataforma. Em contrapartida, outros vídeos apresentam personagens populares de desenhos animados, como Pikachu e Bob Esponja, em situações sexualmente explícitas.

Esse conteúdo gerou críticas de que a OpenAI está avançando precipitadamente sem as devidas proteções. Além disso, o uso de material protegido por direitos autorais, a menos que os detentores dos direitos optem por se excluir, está de acordo com a política atual da empresa, embora ela continue enfrentando contestações judiciais.

Altman minimizou essas preocupações; em uma postagem no X, ele afirmou que o objetivo do Sora é demonstrar as capacidades da tecnologia e gerar interesse comercial para os objetivos mais amplos da OpenAI relacionados à inteligência artificial geral (AGI).

O lançamento ocorre em um momento de concorrência acirrada. Na semana passada, a Meta lançou Vibeo, um novo feed de vídeos curtos com inteligência artificial em seu aplicativo Meta AI. O Google também está desenvolvendo o Veo 3, e a ByteDance e a Alibaba apresentaram sistemas concorrentes.

Enquanto isso, a OpenAI acaba de anunciar um novo investimento de US$ 850 bilhões para reforçar sua infraestrutura e investir na próxima geração de modelos. Especialistas afirmam que a transição para o vídeo visatracmais usuários com outro aplicativo de consumo envolvente.