Les géants de la technologie forgent une alliance contre le contenu généré par l'IA
- Les grandes entreprises technologiques mettent en œuvre des mesures pour détecter le contenu généré par l'IA, renforçant ainsi la transparence.
- Des défis techniques persistent dans l'étiquetage et la détection des médias générés par l'IA.
- Des cadres réglementaires émergent parallèlement aux efforts volontaires pour lutter contre le contenu généré par l'IA.
En réponse aux préoccupations croissantes concernant la prolifération du contenu généré par l'IA, les grandes entreprises technologiques ont annoncé des initiatives visant à détecter et à étiqueter ce type de contenu.
Ces efforts font suite à des incidents tels que le scandale de la pornographie deepfake de Taylor Swift et la propagation de deepfakes politiques.
Les grandes entreprises technologiques collaborent pour étiqueter et détecter le contenu généré par l'IA.
Meta, anciennement Facebook, a annoncé son intention d'étiqueter les images générées par l'IA sur ses plateformes, y compris Facebook, Instagram et Threads. Ces étiquettes, marqueurs visibles, filigranes invisibles et métadonnées intégrées dans les fichiers image, visent à augmenter la transparence et la responsabilité quant à l'origine du contenu.
Google, pour sa part, a rejoint le comité directeur de la C2PA (Content Authenticity Initiative), approuvant un protocole Internet open source conçu pour fournir des « étiquettes nutritionnelles » pour le contenu. Cette démarche signifie un effort collaboratif parmi les géants de la technologie pour établir des normes sectorielles pour la détection du contenu généré par l'IA.
OpenAI met en œuvre des mesures de provenance du contenu
OpenAI a également introduit des mesures pour répondre à ce problème. Elle ajoutera des filigranes aux métadonnées des images générées avec ses modèles d'IA, ChatGPT et DALL-E 3, fournissant une étiquette visible indiquant la participation de l'IA à la création de contenu.
Bien que ces méthodes représentent un pas en avant, elles ne sont pas infaillibles, des défis subsistant dans l'étiquetage et la détection des vidéos, de l'audio et du texte générés par l'IA.
Défis et perspectives d'avenir
Malgré les avancées dans l'étiquetage et le filigrane du contenu, des limitations techniques persistent. Les filigranes dans les métadonnées peuvent être contournés en capturant des captures d'écran, tandis que les étiquettes visuelles sont sensibles au recadrage ou à l'édition. Les filigranes invisibles comme le SynthID de Google offrent une plus grande résilience mais ne sont pas sans défis.
Besoin de cadres réglementaires
En plus des mesures volontaires, les cadres réglementaires gagnent en traction. Des initiatives telles que la loi européenne sur l'IA (AI Act) et le Digital Services Act exigent la divulgation du contenu généré par l'IA et le retrait accéléré des contenus préjudiciables. Les législateurs américains envisagent également des règles contraignantes sur les deepfakes, la Federal Communications Commission ayant récemment interdit l'utilisation de l'IA dans les appels automatisés.
Bien que les lignes directrices volontaires soient un pas dans la bonne direction, des préoccupations subsistent quant à la responsabilité de l'industrie. L'historique d'autorégulation du secteur technologique soulève des doutes sur l'efficacité des mesures volontaires. Cependant, les annonces récentes signalent des progrès par rapport au manque d'action précédent.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Emman Omwanda
L'expertise d'Emmanuel Omwanda repose sur les marchés de la cryptomonnaie, couvrant à la fois l'analyse fondamentale et technique. Il a précédemment travaillé pour divers sites médiatiques spécialisés dans la cryptomonnaie avant de rejoindre Cryptopolitan, notamment CoinEdition, The Crypto Basic, CryptoNews Flash et DroomDroom. Il est titulaire d'un baccalauréat en sciences (BSc.) en mathématiques et informatique de l'Université Kenyatta au Kenya, et est actuellement en dernière année d'études pour un baccalauréat en arts en communication et études médiatiques.
