Sora, la aplicación viral de vídeos con IA de OpenAI, genera debate sobre deepfakes

La última aplicación de video con inteligencia artificial de OpenAI, Sora 2, ha ganado popularidad rápidamente después de recaudar recientemente 6.600 millones de dólares a través de una venta de acciones, consolidando la posición del gigante tecnológico como la empresa privada más valiosa a nivel mundial.

Este éxito se logró después de que la aplicación se asegurara el tercer puesto en la App Store de Apple, a pesar de que los usuarios requerían un código de invitación para acceder. Además, ha propiciado el auge de los vídeos deepfake, incluyendo un conocido vídeo del CEO Sam Altman presuntamente robando GPU.

Mientras tanto, este lanzamiento ha provocado un debate continuo sobre cómo encontrar el equilibrio adecuado entre la seguridad y la expresión de creatividad dentro de la empresa tecnológica.

Tras esto, una fuente cercana a la estrategia de OpenAI, que prefirió permanecer en el anonimato debido a ladentde la situación, señaló que la dirección de la empresa considera esencial imponer normas estrictas, pero también teme que estas puedan restringir la creatividad o dar la impresión de ser demasiado controladoras. Hasta la fecha, este problema no se ha abordado.

OpenAI adopta la velocidad para mantener su ventaja competitiva

Esta estrategia se hizo particularmentedent después de que DeepSeek de China presentó un modelotrona fines del año pasado que era más barato y más rápido de desarrollar que cualquier cosa proveniente de Silicon Valley. 

En respuesta, OpenAI lanzó rápidamente dos nuevos modelos en cuestión de semanas, lo que varios analistas interpretaron como una estrategia para mantener su ventaja competitiva. Cabe destacar que su creciente fortaleza institucional representa un importante impulso para la estrategia del gigante tecnológico. 

Inicialmente, empezó como un pequeño laboratorio de investigación en el Distrito de la Misión de San Francisco. Se ha convertido en una empresa más organizada, lo que le permite formar equipos multifuncionales rápidamente y acelerar el proceso de desarrollo y lanzamiento de productos como Sora. 

En cuanto a Sora, OpenAI destacó que el producto cuenta con varias capas de protección diseñadas para prevenir la creación de contenido inseguro. La compañía añadió que utiliza filtrado rápido y moderación de salida para fotogramas de vídeo y transcripciones de audio.

El gigante tecnológico también señaló que la aplicación prohíbe el contenido explícito, la propaganda terrorista y el contenido que promueve la autolesión. Además, Sora utiliza marcas de agua y no permite la suplantación de identidad. Sin embargo, algunos usuarios ya han descubierto maneras de eludir estas medidas de seguridad.

El contenido de OpenAI enfrenta críticas por preocupaciones de seguridad 

En cuanto a la aplicación de videos de OpenAI, fuentes confiables han señalado que varios videos famosos presentan a Altman después de que este autorizara su uso en la plataforma. En contraste, otros presentan a personajes de dibujos animados populares como Pikachu y Bob Esponja en situaciones sexualmente explícitas.

Este contenido ha suscitado críticas, ya que a OpenAI de avanzar precipitadamente sin las protecciones adecuadas. Además, el uso de material protegido por derechos de autor, salvo que los titulares decidan excluirse, es coherente con la política actual de la empresa, si bien sigue enfrentándose a litigios.

Altman ha restado importancia a estas preocupaciones; en una publicación en X, afirmó que Sora pretende demostrar las capacidades de la tecnología y generar interés comercial para los objetivos más amplios de OpenAI relacionados con la inteligencia artificial general (AGI).

El lanzamiento se produce en un momento de creciente competencia. La semana pasada, Meta lanzó Vibes, una nueva transmisión de video de corta duración con IA en su aplicación Meta AI. Google también está desarrollando Veo 3, y ByteDance y Alibaba han presentado sistemas de la competencia.

Mientras tanto, OpenAI acaba de anunciar una inversión adicional de 850 000 millones de dólares para redoblar la inversión en infraestructura e invertir en la próxima generación de modelos. Los expertos afirman que la transición al vídeo buscatraca más usuarios con otra aplicación atractiva para el consumidor.