IA contre IA : la course aux armements numériques dont vous ignoriez l’existence

Le développement rapide de l'intelligence artificielle générative a engendré une concurrence entre les acteurs de la cybersécurité et les pirates informatiques. Face à cette dynamique, ledent américain Joe Biden a promulgué en octobre un décret visant à garantir un développement et une utilisation sûrs, sécurisés et fiables de l'intelligence artificielle. 

Qui prendra l'avantage – les défenseurs ou les attaquants – au cours des cinq prochaines années ? À ce stade, il n'y a pas de réponse certaine.

La course aux armements cybernétiques 

L'IA générative renforce à la fois les défenseurs et les attaquants, offrant une vitesse et une puissance sansdentaux attaques d'ingénierie sociale et d'usurpation d'identité. 

Pour les attaquants, les campagnes d'hameçonnage ciblant des personnalités publiques deviennent extrêmement faciles à déployer à grande échelle grâce à l'IA qui imite rapidement les styles de communication, permettant ainsi l'exécution simultanée de nombreuses attaques. Ceci représente un défi majeur pour les équipes de défense, compte tenu de l'intensité et de la gravité accrues de ces attaques.

Face à ces attaques, le secteur de la cybersécurité utilise l'IA pour les détecter et les contrer. Cependant, la mise en place de contre-mesures efficaces prend du temps, laissant les entreprises vulnérables entre-temps.

Il s'agit d'une dynamique de course aux armements qui ressemble fortement à un cycle continu d'innovation, dans lequel attaquants et défenseurs tentent de se surpasser mutuellement.

Le rôle de la législation dans l'adaptation à l'évolution de l'IA

La collaboration public-privé est essentielle dans ce contexte. Le décret présidentiel constitue un point de départ pour la réglementation, mais une collaboration continue entre l'industrie technologique et les pouvoirs publics demeure nécessaire. 

Lorsque les produits basés sur l'IA commencent à sortir des mains des entreprises technologiques, les retours des clients deviennent inestimables pour façonner des réglementations qui concilient innovation, protection des données et préoccupations sociétales. 

Les partenariats public-privé sont essentiels pour créer un environnement sûr qui favorise l'innovation en IA et permet de répondre aux questions de sécurité.

Il convient toutefois de noter que les cadres législatifs doivent évoluer au même rythme que la nature changeante de la technologie de l'IA, comme le stipule le décret exécutif. 

Par exemple, en matière d'étiquetage des contenus, le département du Commerce américain élabore des lignes directrices sur le marquage numérique et l'authentification des contenus générés par l'IA. Alphabet, Meta et OpenAI sont d'excellents exemples de géants de la tech qui s'engagent à prendre des mesures similaires à celles mises en œuvre par les services secrets américains, qui ont intégré des filigranes numériques dans les photocopieurs et imprimantes couleur pour lutter contre la contrefaçon.

Pour être proactif dans le développement et la mise en œuvre de l'IA, il est indispensable de s'engager sur le long terme en faveur de la transparence, de la visibilité et de la compréhension. Avec l'avènement de la cyberguerre pilotée par l'IA, une nouvelle course aux armements s'est engagée.

Alors que les acteurs de la défense, tant industriels que gouvernementaux, s'aventurent en territoire inconnu, l'effort conjoint visant à améliorer les stratégies de défense en matière d'IA devient important.

La cybersécurité se trouve à un tournant décisif, l'intelligence artificielle générative étant susceptible de transformer en profondeur ce domaine. La course est loin d'être terminée, ce qui souligne l'importance de mesures globales et concertées pour garantir une conception et une utilisation responsables des technologies basées sur l'IA.