Une arnaque par deepfake impliquant des responsables irlandais supprimée par Meta

Meta Platforms Inc., anciennement connue sous le nom de Facebook, a pris des mesures décisives en supprimant une publicité par deepfake de ses plateformes. Cette publicité trompeuse, apparue sur Instagram, utilisait de manière trompeuse des images du Taoiseach irlandais Leo Varadkar et de l'animatrice de Virgin Media News, Colette Fitzpatrick, couplées à des voix générées par intelligence artificielle. Cette publicité, identifiée sous le nom d'utilisateur « Tisane Trea », a été révélée pour la première fois par une enquête du Sunday World.

La publicité incitait frauduleusement le public à investir de l'argent dans un schéma, garantissant des rendements et affirmant faussement l'approbation du gouvernement irlandais et du gouverneur de la Banque centrale d'Irlande, Gabriel Makhlouf. La réponse rapide de Meta a impliqué la suppression immédiate de la publicité et de l'annonceur, comme l'a confirmé un représentant auprès du Sunday World.

Les périls de la désinformation sur Internet

Colette Fitzpatrick, directement touchée par l'abus de son image, a souligné l'importance des sources d'information fiables. Elle a insisté sur le fait que Virgin Media News, qui diffuse des histoires factuelles à des heures désignées, n'avait aucun lien avec la fausse publicité. Ses commentaires soulèvent la préoccupation croissante concernant la capacité d'Internet à propager de fausses informations.

Les deepfakes, une technologie permettant la création de contenus audio et vidéo réalistes mais fabriqués, sont devenus de plus en plus accessibles et abordables. Cela a conduit à une augmentation des craintes quant au potentiel de mauvaise utilisation, comme on l'a vu dans cette récente arnaque. De tels incidents soulignent la nécessité d'une sensibilisation et d'une vigilance accrues à l'ère numérique.

Préoccupations émergentes et appels à la réglementation

Des sondages d'opinion récents ont montré une forte préférence pour des mesures réglementaires afin de contrôler le développement et l'utilisation de systèmes d'IA hautement avancés. Les critiques soutiennent qu'une dépendance excessive à l'IA pourrait entraîner une diminution des compétences cognitives essentielles. Un exemple anecdotique d'un charpentier de Dublin illustre cette préoccupation, notant que les nouveaux entrants dans la profession peinent avec des tâches de base en raison de leur dépendance à la technologie.

Cet incident avec la publicité par deepfake sert de rappel frappant des défis et des dangers potentiels posés par les technologies d'IA avancées. Bien que l'IA offre de nombreux avantages, sa capacité de mauvaise utilisation, comme démontré dans cette arnaque, appelle à une surveillance plus stricte et à une sensibilisation du public. La nécessité d'une réglementation efficace et de lignes directrices éthiques dans le développement et l'utilisation de l'IA devient de plus en plus évidente à mesure que la technologie continue d'avancer.