Récemment, Jessica Rosenworcel, présidente de la Commission fédérale des communications (FCC) des États-Unis, a proposé de classer comme illégaux les appels utilisant des voix générées par intelligence artificielle (IA). La réglementation et les sanctions envisagées relèveraient de la loi américaine sur la protection des consommateurs par téléphone (TCPA). Cette initiative de la présidente de la FCC fait suite à un incident alarmant dent des voix générées par IA ont été utilisées pour diffuser un faux message, imitant la voix du président américain dent Biden.
Le président de la FCC propose d'interdire les voix générées par l'IA
Les messages falsifiés conseillaient auxdentdu New Hampshire de ne pas participer aux primaires de l'État, dans le but manifeste d'influencer l'électiondentde 2024. Ces appels automatisés, utilisant une imitation de la voix dudent Biden, ont rapidement été signalés comme désinformation par le bureau du procureur général de l'État.
Face à la prolifération des appels automatisés automatisés grâce à l'intelligence artificielle, la proposition de la présidente de la FCC, Rosenworcel, vise à invoquer la TCPA, une loi de 1991 conçue pour réglementer les appels politiques et marketing automatisés effectués sans le consentement du destinataire. L'objectif principal de la TCPA est de protéger les consommateurs contre les communications intrusives et non désirées, notamment les appels de télémarketing non sollicités et les messages automatisés.
La fréquence de ces appels a considérablement augmenté ces dernières années, les progrès technologiques permettant d'imiter de manière trompeuse les voix de célébrités, de personnalités politiques, voire de membres de la famille. Si elle est adoptée, la proposition de la présidente de la FCC, Rosenworcel, donnerait aux procureurs généraux des États américains des outils supplémentaires pour poursuivre les responsables de ces appels automatisés malveillants et imposer des sanctions légales.
Cette initiative de la présidente de la FCC fait suite à l'avis d'enquête publié par l'agence en novembre 2023, qui visait à recueillir des informations sur la lutte contre les appels automatisés illégaux et le rôle potentiel de l'IA. L'enquête a examiné le rôle de l'IA dans les escroqueries, l'imitation vocale et la question de savoir si elle devrait être soumise à la réglementation de la TCPA. Par ailleurs, la présidente de la FCC a indiqué que l'agence souhaite mieux comprendre comment l'IA pourrait être utilisée à bon escient, notamment pour identifier et prévenir les appels automatisés illégaux.
Paysage de l'IA et réponses législatives
Plus largement, la Maison Blanche a publié une fiche d'information détaillant les principales actions menées en matière d'IA le 29 janvier, trois mois après le décretdent de Biden sur l'IA. Cette fiche reconnaissait des « progrès substantiels » vers la réalisation de l'objectif dudent: « protéger les Américains des risques potentiels des systèmes d'IA »
L'essor des deepfakes, contenus générés par l'IA et potentiellement très trompeurs, suscite des inquiétudes. Le Forum économique mondial, dans son 19e Rapport sur les risques mondiaux, a mis en lumière les conséquences néfastes associées aux technologies d'IA. Ces inquiétudes dépassent le cadre des États-Unis : le Service canadien du renseignement de sécurité, principal service de renseignement national du Canada, s'est dit préoccupé par les campagnes de désinformation utilisant des deepfakes sur Internet.
Face aux défis plus vastes posés par les contenus générés par l'IA, les législateurs américains ont plaidé pour une loi criminalisant la production d'images truquées (deepfakes). Cet appel à l'action fait suite à la large diffusion de photos truquées et explicites de célébrités, comme Taylor Swift. L'intersection entre l'IA et les technologies de communication soulève des problèmes complexes, nécessitant un équilibre entre innovation et réglementation.
Face à l'évolution constante de l'IA, les décideurs politiques, les organismes de réglementation et les forces de l'ordre s'efforcent d'adapter les cadres juridiques afin de prévenir les risques d'utilisation abusive de ces technologies. La proposition de qualifier d' l'IA en vertu de la législation actuelle constitue une mesure proactive pour répondre aux préoccupations croissantes liées aux appels automatisés trompeurs et aux implications plus larges de l'IA dans les communications.
