L'application vidéo virale d'IA d'OpenAI, Sora, déclenche un débat sur les deepfakes

Sora 2, la toute dernière application vidéo d'IA d'OpenAI, a rapidement gagné en popularité après avoir récemment levé 6,6 milliards de dollars grâce à une vente d'actions, consolidant ainsi la position du géant technologique en tant qu'entreprise privée la plus précieuse au monde.

Ce succès a été obtenu grâce à l'application qui a décroché la troisième place sur l'App Store d'Apple, malgré la nécessité d'un code d'invitation pour y accéder. Il a également contribué à l'essor des vidéos truquées (deepfakes), notamment une vidéo devenue célèbre où le PDG Sam Altman est accusé de voler des GPU.

Parallèlement, ce lancement a suscité un débat permanent sur la nécessité de trouver le juste équilibre entre sécurité et expression de la créativité au sein de l'entreprise technologique.

Suite à cela, une source interne proche d'OpenAI, souhaitant garder l'anonymat compte tenu du caractèredentde la situation, a indiqué que la direction de l'entreprise estime qu'imposer des règles strictes est essentiel, mais craint également que ces règles ne brident la créativité ou ne soient perçues comme un contrôle excessif. À ce jour, cette question n'a pas encore été abordée.

OpenAI mise sur la rapidité pour conserver son avantage concurrentiel

Cette stratégie est devenue particulièrementdent après que DeepSeek, une entreprise chinoise, a présenté à la fin de l'année dernière un modèletron, moins cher et plus rapide à développer que tout ce qui venait de la Silicon Valley. 

En réponse, OpenAI a rapidement lancé deux nouveaux modèles en quelques semaines, une initiative que plusieurs analystes ont interprétée comme une stratégie visant à maintenir son avantage concurrentiel. Il convient de noter que le renforcement de sa position institutionnelle constitue un atout majeur pour la stratégie du géant technologique. 

À l'origine, il s'agissait d'un petit laboratoire de recherche situé dans le quartier Mission de San Francisco. L'entreprise s'est structurée et est devenue capable de constituer rapidement des équipes pluridisciplinaires, accélérant ainsi le développement et le lancement de produits comme Sora. 

Concernant Sora, OpenAI a souligné que le produit intègre plusieurs niveaux de protection conçus pour empêcher la création de contenus dangereux. L'entreprise a ajouté qu'il utilise un filtrage des messages et une modération des flux vidéo et audio.

Le géant technologique a également souligné que l'application interdit les contenus explicites, la propagande terroriste et les contenus incitant à l'automutilation. De plus, Sora utilise des filigranes et n'autorise pas l'usurpation d'identité. Cependant, certains utilisateurs ont déjà trouvé des moyens de contourner ces mesures de sécurité.

Le contenu d'OpenAI fait l'objet de critiques concernant des problèmes de sécurité 

Concernant l'application vidéo d'OpenAI, des sources fiables ont indiqué que plusieurs vidéos célèbres mettent en scène Altman après qu'il a autorisé l'utilisation de son image sur la plateforme. À l'inverse, d'autres vidéos présentent des personnages de dessins animés populaires tels que Pikachu et Bob l'éponge dans des situations à caractère sexuel explicite.

Ce contenu a suscité des critiques, certains reprochant à OpenAI d'avancer précipitamment sans protections adéquates. Par ailleurs, son utilisation de matériel protégé par le droit d'auteur, sauf si les titulaires de droits choisissent de s'en exclure, est conforme à la politique actuelle de l'entreprise, bien qu'elle continue de faire face à des contestations judiciaires.

Altman a balayé ces inquiétudes d'un revers de main ; dans un message publié sur X, il a déclaré que Sora vise à démontrer les capacités de la technologie et à susciter un intérêt commercial pour les objectifs plus larges d'OpenAI liés à l'intelligence artificielle générale (IAG).

Ce lancement intervient dans un contexte de concurrence accrue. La semaine dernière, Meta a lancé VibeAlibaba, un nouveau flux vidéo court généré par l'IA, intégré à son application Meta AI. Google développe également Veo 3, et ByteDance et ont présenté des systèmes concurrents.

Parallèlement, OpenAI vient d'annoncer un nouvel investissement de 850 milliards de dollars pour renforcer son infrastructure et investir dans la prochaine génération de modèles. Les experts affirment que la transition vers la vidéo vise àtracdavantage d'utilisateurs grâce à une nouvelle application grand public attrayante.