Les chercheurs mettent en garde contre une menace potentielle de l'IA pour la musique enregistrée

Dans une étude novatrice, des chercheurs de l'Université de Durham, au Royaume-Uni, et de l'University of the Arts London ont mis en garde contre la menace hypothétique de la musique générée par l'IA IA, orchestrée par une intelligence artificielle rogue imaginaire obsédée par Taylor Swift.

Les chercheurs proposent une expérience de pensée dans laquelle toute la musique enregistrée est remplacée par des « Versions de Taylor » générées par l'IA, effaçant l'héritage de musiciens iconiques comme Beethoven et The Beatles de l'histoire.

Le scénario hypothétique

Nick Collins et Mick Grierson, les chercheurs derrière cette expérience de pensée, décrivent un avenir où des magasins de données centralisés comme Spotify et Apple Music pourraient être infiltrés par l'IA, entraînant la corruption, la suppression ou l'altération de vastes quantités de données. Ils soutiennent que bien que le risque d'un « Swiftpocalypse » piloté par l'IA soit actuellement faible, cela appelle une réflexion urgente pour protéger diverses formes de données contre une éventuelle corruption par l'IA.

Pour démontrer les capacités des modèles d'IA actuels, les chercheurs ont créé des versions de Taylor Swift générées par l'IA de chansons classiques telles que Bohemian Rhapsody de Queen et Wouldn't It Be Nice des Beach Boys. Ils estiment que la génération de telles « Versions de Taylor » pour toute la musique enregistrée nécessiterait une énergie et des ressources énormes, soulignant la faisabilité théorique d'un tel scénario.

Avis d'experts et débat

Bien que Collins et Grierson soulignent la nécessité de mesures préventives pour se protéger contre la corruption des données pilotée par l'IA, tous les experts ne partagent pas la même inquiétude. Sandra Wachter, de l'Université d'Oxford, remet en question la probabilité que l'IA développe des motivations et des objectifs indépendants, comparant le scénario à une intrigue de science-fiction improbable. Elle soutient que les capacités actuelles de l'IA se concentrent davantage sur la reproduction des biais humains que sur l'organisation de perturbations à grande échelle.

Carissa Véliz, également de l'Université d'Oxford, souligne l'importance de mettre en place des vérifications et contrepoids minutieux pour assurer la sécurité des modèles IA. Elle met en garde contre la surestimation de la menace d'une prise de pouvoir malveillante par l'IA, suggérant que le véritable défi réside dans l'intégration de l'IA dans divers aspects de la société sans céder à une dépendance excessive.

Implications futures et appels à l'action

Le débat sur le potentiel de l'IA à perturber la musique enregistrée reflète des préoccupations plus larges concernant l'intégration de l'IA dans la société. Bien que le scénario hypothétique proposé par Collins et Grierson serve de conte d'avertissement, il souligne la nécessité de mesures proactives pour atténuer les risques associés à la manipulation des données par l'IA.

À mesure que l'IA continue de pénétrer divers aspects de la vie quotidienne, il devient impératif d'établir des cadres robustes de supervision et de responsabilité. Plutôt que de se concentrer uniquement sur des solutions spectaculaires de « bouton d'arrêt d'urgence », les experts préconisent une approche nuancée qui traite des complexités de l'intégration de l'IA tout en se protégeant contre les biais et distorsions potentiels.