L’étude identifie un écart de sécurité alarmant dans le déploiement de l’IA générative

82 % des dirigeants de niveau C estiment qu’une IA sécurisée et digne de confiance est critique. Cependant, seulement 24 % d’entre eux intègrent la sécurité dans leurs initiatives liées à l’IA générative. C’est selon une nouvelle recherche d’IBM et d’Amazon Web Services, une recherche conjointe annoncée lors de la conférence RSA 2024 qui a détaillé les résultats d’une enquête axée sur les opinions des dirigeants de niveau C concernant la manière de favoriser des cas d’utilisation sûrs pour l’IA, avec un fort accent sur l’IA générative. IBM rapporte que seuls 24 % des répondants ont considéré une dimension de sécurité dans leurs initiatives d’IA générative, tandis que près de 70 % disent que l’innovation prime sur la sécurité.

Compromis entre innovation et sécurité

Bien que la plupart des dirigeants s’inquiètent du fait que des risques imprévisibles auront un impact sur les initiatives d’IA générative, ils ne priorisent pas la sécurité. Bien qu’un paysage de menaces IA pleinement réalisé ne se soit pas encore produit, certains cas d’utilisation ont impliqué l’utilisation de ChatGPT ou similaire pour générer des scripts d’e-mails de phishing et des audio deepfake. Les chercheurs en sécurité d’IBM X-Force ont averti que, comme pour les technologies plus matures, on peut s’attendre de plus en plus à ce que les systèmes IA soient ciblés à plus grande échelle.

Bien qu’une surface de menace IA consolidée ne fasse que commencer à se former, les chercheurs d’IBM X-Force anticipent qu’une fois que le paysage de l’industrie se maturera autour de technologies et de modèles d’activation communs, les acteurs malveillants commenceront à cibler ces systèmes IA plus largement, lit-on dans le rapport. En effet, cette convergence est en cours alors que le marché se maturifie rapidement, et les principaux fournisseurs émergent déjà dans les domaines du matériel, du logiciel et des services.

Plus immédiatement préoccupant, selon le rapport d’IBM, sont ces entreprises qui ne sécurisent pas correctement les modèles d’IA qu’elles construisent et utilisent dans le cadre de leurs activités. Une mauvaise application des outils d’IA générative peut entraîner une mauvaise manipulation ou une fuite de données sensibles. Selon le rapport, l’« IA fantôme » augmente dans son utilisation au sein des organisations, les employés utilisant des outils d’IA générative qui n’ont pas été approuvés et sécurisés par les équipes de sécurité d’entreprise.

À cette fin, IBM a annoncé un cadre pour sécuriser l’IA générative en janvier. Ses principes de base sont la centralisation des données utilisées pour entraîner les modèles d’IA, la sécurisation des modèles en combinant l’analyse des pipelines de développement pour les vulnérabilités, l’application de politiques et de contrôles d’accès pour l’utilisation de l’IA, et la sécurisation de son utilisation contre les attaques basées sur des modèles d’IA en direct.

Sécuriser le pipeline IA

Lundi, l’équipe de sécurité offensive X-Force Red d’IBM a lancé un service de test d’intelligence artificielle qui vise à évaluer les applications d’IA, les modèles d’IA et les pipelines MLSecOps par le biais de tests d’intrusion (red teaming). Mercredi lors de la conférence RSA 2024, IBM présentera « Innover maintenant, sécuriser plus tard ? Décisions, décisions… » sur la sécurisation et l’établissement de la gouvernance pour le pipeline IA.

Le deuxième intervenant était Ryan Dougherty, directeur de programme pour la technologie de sécurité chez IBM Security. S’adressant à la rédaction de TechTarget, il a déclaré que sécuriser l’IA dès le départ est l’une des principales préoccupations d’IBM Security dans le domaine technologique. Il a déclaré : « C’est ce qui rend ce domaine si critique, en particulier dans le cas de l’IA générative : elle s’intègre profondément dans les applications et les processus commerciaux. L’intégration dans le tissu commercial l’élève au-dessus et au-delà des risques et menaces potentiels. »

Selon lui, d’un point de vue commercial, l’IA doit avoir un ancrage dans sa nature réelle.

« L’IA générative est entraînée et opérationnalisée sur d’immenses quantités de données commerciales sensibles, et nous devons sécuriser ces nouveaux joyaux, car c’est là que réside l’avantage concurrentiel. C’est autour des données que ces organisations possèdent et des insights qu’elles obtiennent en utilisant l’IA générative et en les exposant dans leurs applications pour améliorer leurs affaires. »

Dougherty a ajouté qu’ils dépensent beaucoup d’argent pour ces modèles, qui sont très coûteux. Une grande quantité de propriété intellectuelle et d’investissements est consacrée à la mise en œuvre opérationnelle de ces applications d’IA générative, et les entreprises ne peuvent tout simplement pas se permettre de les sécuriser.