Les géants de la technologie s'unissent pour lutter contre la menace des deepfakes grâce aux identifiants de contenu

À travers le monde, les deepfakes ont attiré beaucoup d'attention. Alors que de nombreuses entreprises internationales utilisant des deepfakes générés par IA ont émergé, un accord général se dégage sur l'approche à adopter face à ce problème. Début cette année, Google, au sein du C2PA, est devenu membre du comité de pilotage aux côtés d'autres acteurs tels qu'OpenAI, Adobe, Microsoft, AWS et les membres de la RIAA. En raison des préoccupations liées aux deepfakes et à la désinformation grand public sur l'IA, le personnel informatique souhaitera s'appuyer sur les travaux de cette agence, en faisant des références spécifiques aux identifiants de contenu.

Identifiants de contenu : La nouvelle norme

L'industrie s'apprête à réglementer un domaine spécifique de la gestion des données visuelles et vidéo à l'échelle mondiale, de sorte que les équipes informatiques y prêteront une attention particulière. Les identifiants de contenu sont un moyen permettant aux créateurs ou aux détenteurs de contenu d'utiliser des métadonnées numériques pour obtenir les crédits appropriés et introduire l'honnêteté dans un écosystème. Ces métadonnées irrécupérables comprennent le nom et les détails de l'artiste et sont inscrites directement dans le contenu lors de l'exportation ou du téléchargement.

Les étiquettes de contenu créées selon les mêmes règles et autorisations ont de fortes chances de mettre en œuvre un étiquetage standardisé dans un monde complet et acceptant, grâce au poids des entreprises derrière cette idée. Les identifiants de contenu constituent une opportunité unique pour diverses raisons. Ils aideront à renforcer la crédibilité et la fiabilité auprès du public en fournissant des informations nécessaires sur l'auteur ou le processus créatif. Cela développe une atmosphère propice qui aide à combattre la désinformation et la mésinformation. 

Joignez tout détail de contact à leur travail pour renforcer l'identité des artistes afin que les utilisateurs puissent les identifier et entrer en contact pour leur reconnaissance et leur visibilité. Par ailleurs, des mesures seront prises à l'encontre des contenus internet qui ne sont pas réels, tels que les contenus faux conçus pour tromper les gens. L'histoire de l'Australie reflète le pic le plus important de fraude par deepfake, similaire à celui observé dans le reste du monde. Sumsub, dans son troisième rapport sur la fraude à l'identité, a indiqué que le nombre de deepfakes en Australie a augmenté de 15 fois par rapport à l'année précédente, et que le niveau de sophistication des médias falsifiés vers une forme réaliste s'est encore accru.

Puisque l'œil humain baisse sa garde presque instantanément, les deepfakes deviennent très persuasifs. Des recherches indiquent qu'il peut falloir aussi peu que 13 millisecondes pour catégoriser des images, une durée bien inférieure à celle nécessaire à un humain pour traiter l'information et l'authentifier ou la rejeter. Le commissaire australien à la eSafety note que « le développement d'innovations pour aider à identifier les deepfakes ne suit pas encore le rythme de la technologie ». Pour sa part, le gouvernement australien s'est engagé à lutter contre les deepfakes.

Lutter contre les deepfakes en Australie

Les deepfakes présentent une menace très réelle pour la stabilité et la sécurité de tous les Australiens. Toute campagne de prévention à long terme contre les deepfakes devrait se concentrer sur des campagnes de sensibilisation qui aident les gens à comprendre comment fonctionnent les deepfakes et les options disponibles pour éviter de tomber dans ces pièges.

Pour que cette vision devienne réalité, un consensus à l'échelle de l'industrie sera nécessaire, les principaux acteurs de l'offre fournissant la technologie et ayant le plus grand impact dans l'IA. C'est là que les identifiants de contenu entrent en jeu. Bien que les identifiants de contenu soient la meilleure chance de créer des normes qui mettront fin au problème des deepfakes, les questions de détection, de réglementation et de sanction des abus resteront. Cela signifie que la prévention ne repose pas uniquement sur l'industrie ni sur le soutien des nombreux leaders du secteur des médias. De telles mises en œuvre peuvent s'étendre sur une grande partie d'Internet, et en ces temps, la plupart des sites web sont aussi rapidement informés que les sites viraux dans les moteurs de recherche.

Les personnes impliquées dans les technologies IT et l'IA pour la création de contenu en auront envie. Elles devraient comprendre les identifiants de contenu de la même manière que les développeurs web sont devenus familiers avec la sécurité, le référencement (SEO) et toutes les normes existantes pour protéger le contenu contre les interdictions. Les étapes qu'elles devraient suivre incluent :

Mise en œuvre des identifiants de contenu : Tout d'abord, les experts IT devraient s'assurer que leur entreprise intègre pleinement les identifiants de contenu dans ses flux de travail pour maintenir l'authenticité et la traçabilité du contenu.

Plaidoyer pour la transparence : La suggestion interne et externe avec les partenaires et les clients conduit à un plaidoyer organisé pour que les organisations soient transparentes sur l'utilisation de l'IA et acceptent des pratiques éthiques dans la création et la distribution de contenu.

Soutien à la réglementation : Envisager les organismes de l'industrie et le gouvernement pour guider l'élaboration des politiques et des réglementations afin de contrer les défis induits par les deepfakes. Cela impliquera non seulement de participer aux nombreuses consultations publiques que le gouvernement organisera sur l'IA, mais aussi d'aider à façonner le travail politique.

Collaboration : Combiner une expertise accrue avec d'autres professionnels et organisations en créant des approches et des outils partagés et cohérents pour identifier les risques liés aux deepfakes.

Préparation de stratégies de réponse : Faire face aux défis posés par les deepfakes et préparer vos plans lorsque cette technologie est détectée, tels que la gestion des dommages et des communications.

Exploiter les ressources communautaires : La plateforme devrait également utiliser les ressources des communautés de cybersécurité, telles que le commissaire à la eSafety, pour rester informée des développements récents en temps utile.

La formation de deepfakes est la tâche la plus difficile pour les experts en technologies de l'information, qui doivent trouver une solution applicable. Les identifiants de contenu fournissent une excellente organisation de départ pour le monde sur laquelle le reste de l'industrie peut être construit.