Des chercheurs mettent en garde contre la menace potentielle que représente l'IA pour la musique enregistrée

Dans une étude novatrice, des chercheurs de l'université de Durham, au Royaume-Uni, et de l'université des arts de Londres ont mis en garde contre la menace hypothétique de générée par l'IA , menée par une intelligence artificielle malveillante imaginaire obsédée par Taylor Swift. 

Les chercheurs proposent une expérience de pensée dans laquelle toute la musique enregistrée est remplacée par des « versions Taylor » générées par l'IA, effaçant ainsi de l'histoire l'héritage de musiciens emblématiques comme Beethoven et les Beatles.

Le scénario hypothétique

Nick Collins et Mick Grierson, les chercheurs à l'origine de cette expérience de pensée, imaginent un avenir où des plateformes de stockage de données centralisées comme Spotify et Apple Music pourraient être infiltrées par l'IA, entraînant la corruption, la suppression ou l'altération de vastes quantités de données. Ils affirment que, même si le risque d'une « Swiftpocalypse » pilotée par l'IA est actuellement faible, il incite à réfléchir d'urgence à la protection des données sous toutes leurs formes contre une éventuelle corruption par l'IA.

Pour démontrer les capacités des modèles d'IA actuels, les chercheurs ont créé des versions de chansons classic , comme Bohemian Rhapsody de Queen et Wouldn't It Be Nice des Beach Boys, interprétées par Taylor Swift. Ils estiment que générer de telles « versions Taylor » pour toute la musique enregistrée exigerait une énergie et des ressources considérables, ce qui souligne la faisabilité théorique d'un tel scénario.

Avis d'experts et débat

Si Collins et Grierson insistent sur la nécessité de mesures préventives pour se prémunir contre la corruption des données par l'IA, tous les experts ne partagent pas cette préoccupation. Sandra Wachter, de l'Université d'Oxford, remet en question la probabilité que l'IA développe des motivations et des objectifsdent , comparant ce scénario à une intrigue de science-fiction improbable. Elle soutient que les capacités actuelles de l'IA se concentrent davantage sur la reproduction des biais humains que sur l'orchestration de perturbations à grande échelle.

Carissa Véliz, également de l'Université d'Oxford, souligne l'importance de mettre en place des mécanismes de contrôle rigoureux pour garantir la sécurité des d'IA . Elle met en garde contre la surestimation du risque d'une prise de contrôle malveillante par l'IA, suggérant que le véritable défi consiste à intégrer l'IA dans divers aspects de la société sans tomber dans une dépendance excessive.

Implications futures et appels à l'action

Le débat autour du potentiel de l'IA à bouleverser la musique enregistrée reflète des préoccupations plus générales quant à son intégration dans la société. Si le scénario hypothétique proposé par Collins et Grierson sert d'avertissement, il souligne la nécessité de mesures proactives pour atténuer les risques liés à la manipulation des données par l'IA.

Alors que l'IA continue de s'immiscer dans de nombreux aspects de la vie quotidienne, il devient impératif d'établir des cadres robustes de contrôle et de responsabilisation. Plutôt que de se concentrer uniquement sur des solutionsmatic d'arrêt d'urgence, les experts préconisent une approche nuancée qui prenne en compte la complexité de l'intégration de l'IA tout en se protégeant contre les biais et les distorsions potentiels.