La sécurité de l'IA peut-elle être assurée par le filigranage du contenu par les grandes entreprises technologiques ?

Dans un mouvement significatif pour adresser les préoccupations de sécurité de l'IA, les grandes entreprises technologiques s'engagent à adopter des lignes directrices volontaires, telles que le filigranage, pour aider les utilisateurs à identifier le contenu généré par l'IA, dans le cadre de leurs efforts pour limiter l'abus et la mauvaise utilisation de l'IA. Ces entreprises, Amazon, Anthropic, Google, Meta, Microsoft, OpenAI et la startup d'IA Inflection, ont convenu avec l'administration Biden de soumettre leurs systèmes à des tests par des experts indépendants. Ce mouvement survient alors que la technologie d'IA générative gagne en popularité et en investissements, incitant les législateurs du monde entier à envisager des réglementations pour protéger la sécurité nationale et l'économie.

Répondre aux préoccupations concernant la technologie IA

L'essor rapide de l'IA générative, qui utilise des données pour créer du contenu semblable à celui d'un humain, a suscité des inquiétudes quant à ses risques potentiels dans divers domaines. En juin, le leader de la majorité au Sénat américain, Chuck Schumer, a appelé à une législation complète pour garantir des mesures de protection appropriées sur l'intelligence artificielle. Pour répondre à ces préoccupations, le Congrès examine un projet de loi exigeant que les publicités politiques divulguent si l'IA a été utilisée pour générer le contenu.

Le président Joe Biden travaille activement au développement d'un décret exécutif et d'une législation bipartite pour réglementer davantage la technologie IA. Dans le cadre de cet effort, les dirigeants des sept grandes entreprises d'IA se réunissent à la Maison Blanche vendredi pour discuter de leurs engagements. Les entreprises ont convenu de développer un système de filigrane pour toutes les formes de contenu généré par l'IA, y compris le texte, les images, l'audio et les vidéos. Cette technique de filigrane vise à fournir aux utilisateurs une indication claire lorsque la technologie IA a été utilisée pour créer du contenu.

Filigrane pour une sécurité IA renforcée

Le système de filigrane proposé devrait être essentiel pour combattre les dangers potentiels associés au contenu généré par l'IA. En intégrant techniquement un filigrane dans le contenu, les utilisateurs seront mieux équipés pour identifier les images ou les audios truqués (deepfakes) qui pourraient dépeindre des violences inexistantes, faciliter des arnaques ou présenter les politiciens sous un mauvais jour. Cependant, les détails sur la manière dont le filigrane sera visible lors du partage d'informations n'ont pas été clarifiés.

Les filigranes numériques vérifient l'authenticité ou l'intégrité du signal porteur ou montrent l'identité de ses propriétaires. Non seulement un filigrane dissuade les individus de divulguer des documents, mais en cas de fuite, la source de la fuite peut être facilement identifiée lorsqu'un filigrane avec le nom du destinataire autorisé est placé sur le fichier. Le filigrane numérique est une technologie dans laquelle des informations d'identification sont intégrées dans le support de données de manière à ne pas être facilement remarquées, et dans laquelle l'utilisation des données ne sera pas affectée. Cette technologie protège souvent le droit d'auteur des données multimédias, et protège les bases de données et les fichiers texte.

Engagements allant au-delà du filigrane

Les engagements des entreprises vont au-delà du filigrane et s'étendent à la protection de la vie privée des utilisateurs à mesure que la technologie IA se développe. Elles se sont également engagées à garantir que leurs systèmes d'IA sont exempts de biais et à s'abstenir d'être utilisées pour discriminer les groupes vulnérables. Les entreprises ont déclaré qu'elles rendraient publiques les capacités et les limites de leurs systèmes d'IA, ainsi que les lignes directrices pour leur utilisation éthique. Les entreprises prévoient de mener des recherches sur les risques sociétaux posés par l'IA. De plus, ces entreprises se sont engagées à déployer des solutions d'IA pour relever des défis scientifiques, tels que la recherche médicale et l'atténuation du changement climatique.

Un pas en avant pour la sécurité de l'IA

Les engagements volontaires pris par ces grandes entreprises d'IA signifient un progrès significatif dans la réponse aux préoccupations de sécurité associées à la technologie IA. Avec la coopération des leaders de l'industrie et les efforts réglementaires en cours, il y a un optimisme quant à la capacité de l'IA à continuer de s'épanouir tout en adhérant à des pratiques responsables.

Alors que l'IA générative gagne en popularité et en investissements, les régulateurs et les législateurs du monde entier se concentrent sur la gestion des risques potentiels. Les engagements pris par les principales entreprises d'IA pour mettre en œuvre des mesures de filigrane et améliorer la sécurité par des pratiques responsables marquent un développement positif dans le domaine. Les efforts du président Biden pour développer des décrets exécutifs et une législation bipartite renforcent davantage l'importance de garantir une utilisation sûre et éthique de la technologie IA. L'IA peut débloquer son potentiel tout en atténuant les risques sociétaux grâce à une collaboration continue entre les acteurs de l'industrie et les organismes de réglementation.