L’utilisation potentiellement abusive de l’intelligence artificielle générative suscite des inquiétudes à l’approche de l’année électorale

Intelligence artificielle générative : Dans un paysage technologique en constante évolution, les progrès de l’intelligence artificielle générative (IA générative) brouillent de plus en plus la frontière entre réalité et manipulation. Matt Aldridge, consultant principal en solutions chez OpenText Cybersecurity, met en garde contre le risque de scénarios dignes d’un film d’horreur. Dans un entretien avec Capacity, il souligne l’urgence de mettre en place des normes transparentes pour la création de contenu, afin de permettre aux utilisateurs de distinguer les médias authentiques des manipulations générées par l’IA.

L'IA générative est une arme à double tranchant

Les progrès rapides de l'intelligence artificielle générative ont ouvert de vastes perspectives, mais ont également engendré d'importants défis. Grâce aux outils développés par des entreprises comme OpenAI et Microsoft, il est devenu possible de fabriquer des images truquées convaincantes, susceptibles d'influencer l'opinion publique, notamment lors d'événements cruciaux tels que les élections.

Un récent rapport du Centre de lutte contre la haine numérique (CCDH) souligne la menace potentielle que représentent les contenus générés par l'IA dans l'arène politique. À l'aide d'outils d'IA générative, cette organisation à but non lucratif a créé des images montrant ledent américain Joe Biden sur un lit d'hôpital et des employés électoraux détruisant des machines à voter. Ces images truquées suscitent des inquiétudes quant à la propagation de la désinformation et à l'atteinte à l'intégrité des élections.

Selon les chercheurs du CCDH, la diffusion d'images générées par l'IA comme « preuves photographiques » pourrait amplifier la prolifération de fausses allégations, posant un défi considérable à la sauvegarde de l'intégrité des élections, y compris la prochaine électiondentaméricaine de novembre.

Besoin urgent de réglementation et de collaboration

Matt Aldridge souligne l'importance cruciale de mesures proactives pour lutter contre le détournement de l'intelligence artificielle, notamment dans le contexte de la manipulation politique. À l'approche des élections britanniques et américaines, il insiste sur la nécessité de freiner la création et la diffusion de deepfakes et d'images trompeuses.

Aldridge appelle à une collaboration entre les innovateurs technologiques, les gouvernements et les experts en cybersécurité afin d'élaborer des cadres réglementaires robustes qui renforcent la responsabilisation. Il souligne que sensibiliser la société à l'dentde la désinformation, des campagnes de haine et des tactiques d'influence alimentées par l'IA est primordial pour lutter efficacement contre ces menaces.

Face aux risques croissants liés à la manipulation par l'IA, Aldridge affirme que les gouvernements du monde entier doivent prendre l'initiative pour relever ces défis. En établissant des réglementations complètes et en favorisant la collaboration entre les parties prenantes, les gouvernements peuvent atténuer les dommages potentiels que représente le mauvais usage des technologies d'IA générative.

La convergence des technologies de pointe et des contextes politiques présente à la fois des opportunités et des risques. Si l'intelligence artificielle générative est prometteuse en matière d'innovation et de créativité, son utilisation abusive peut nuire à la société, notamment dans des domaines critiques comme les élections. Pour se prémunir contre ces menaces, des efforts concertés sont nécessaires afin de mettre en œuvre des normes transparentes, de sensibiliser le public et d'adopter des mesures réglementaires favorisant un usage responsable de l'IA.