Outils de sécurité alimentés par l'IA et le nouveau défi de la DARPA pour les développeurs open source
- La DARPA lance le Cyber Challenge IA (AIxCC) pour faire progresser les outils de sécurité basés sur l'IA, avec 20 millions de dollars de prix à gagner.
- L'impact de l'IA sur la sécurité reste incertain, mais les experts mettent en garde contre le fait d'ignorer son potentiel.
- L'IA multimodale, évolution de l'IA générative, sera bientôt capable d'interpréter les conversations textuelles, la vidéo et le langage corporel.
L'intelligence artificielle (IA), en particulier les grands modèles de langage (LLM) comme GPT, a été au cœur des discussions lors des récentes conférences Black Hat et Def Con à Las Vegas. Cependant, les experts sont divisés sur la manière dont l'IA impactera la posture de sécurité des entreprises, de la protection des données internes au développement d'applications.
Maria Markstedter, ingénieure inverse et experte en exploitation chez Arm, a paraphrasé la déclaration du PDG d'OpenAI, Sam Altman, selon laquelle « l'IA conduira très probablement à la fin du monde, mais en attendant, il y aura d'excellentes entreprises ». Lors de son discours principal à Black Hat, Markstedter a recommandé la devise « Avancez vite, cassez des trucs », soulignant que les produits manquent souvent initialement de fonctions de sécurité et que les entreprises doivent être contraintes d'investir dans la sécurité.
IA générative et IA multimodale
L'IA générative, qui se concentre actuellement sur le texte, évolue vers une IA multimodale, capable de gérer les chats, les réponses vidéo en direct, l'analyse des sentiments et même l'interprétation du langage corporel, selon Markstedter. Elle a souligné l'importance de maintenir l'anonymat dans ces systèmes et de repenser la sécurité des données.
Impact sur la sécurité
L'impact de l'IA sur la sécurité reste incertain. Markstedter a souligné que l'IA affecte déjà la sécurité des données, comme en témoignent les employés copiant des données dans des chatbots IA à boîte noire. Cependant, les implications plus larges pour la sécurité restent floues. Les LLM peuvent générer du code malveillant, mais ils ne peuvent pas l'exécuter, selon deux anciens employés d'OpenAI qui ont discuté de l'utilisation potentielle de l'IA dans la sécurité.
Malgré cette incertitude, il y avait un consensus pour dire qu'interdire l'IA n'est pas une solution viable à long terme. Les entreprises sont désireuses d'adopter les technologies IA, et la sécurité de l'IA exigera in fine d'embrasser les LLM et autres technologies IA. Ceux qui ne le feront pas prendront du retard, ont averti les experts en sécurité.
Intégrer l'IA dans la sécurité
Markstedter a fait valoir que l'intégration d'agents autonomes est risquée, mais qu'il est essentiel d'accepter leur réalité et de développer des solutions pour les rendre plus sûrs. « C'est notre chance de nous réinventer [et] notre posture de sécurité », a-t-elle déclaré, appelant la communauté à se rassembler et à favoriser la recherche.
Le défi cybernétique IA de la DARPA
L'organisation de défense DARPA a lancé un défi aux participants de Black Hat et Def Con pour les aider à créer un système de sécurité réactif de nouvelle génération basé sur l'IA. Perri Adams, responsable de programme au Bureau de l'innovation en information de la DARPA, a annoncé le défi cybernétique IA (AIxCC) de deux ans lors de l'événement principal de Black Hat.
L'AIxCC vise à développer une nouvelle génération d'outils de cybersécurité et offre un total de 20 millions de dollars de prix aux équipes qui créent les meilleurs systèmes. La compétition comporte deux catégories : la catégorie financée et la catégorie ouverte. Les concurrents de la catégorie financée seront sélectionnés parmi les propositions soumises à une sollicitation de recherche d'innovation pour petites entreprises, jusqu'à sept petites entreprises recevant un financement allant jusqu'à 1 million de dollars. Les concurrents de la catégorie ouverte peuvent s'inscrire via le site web de la compétition sans financement de la DARPA.
En 2024, DefCon déterminera les cinq meilleures entreprises, qui passeront à un deuxième tour d'expérimentation avec un financement supplémentaire de 2 millions de dollars. Les gagnants de Def Con 2025 recevront 4 millions de dollars pour la première place, 3 millions de dollars pour la deuxième place et 1,5 million de dollars pour la troisième place.
Collaboration avec les principales entreprises d'IA
L'AIxCC s'associe à des entreprises d'IA de premier plan, notamment Anthropic, Google, Microsoft et OpenAI. La Open Source Security Foundation (OpenSSF), un projet de la Linux Foundation, servira de conseiller de défi pour guider les équipes dans la création de systèmes IA capables de répondre à des problèmes essentiels de cybersécurité, tels que la sécurité des infrastructures critiques de la nation et des chaînes d'approvisionnement logicielles.
Les compétitions AIxCC se tiendront à DEF CON et se composeront de deux phases : la phase de demi-finale et la phase finale. Les deux compétitions auront lieu à DEF CON à Las Vegas en 2024 et 2025.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
John Palmer
John Murangiri a rejoint Cryptopolitan avec des compétences en analyse de marché. John (alias JP) est diplômé de l'Université de Nairobi d'un baccalauréat en communication de masse et études médiatiques. Il a précédemment contribué à des analyses du marché crypto pour InsideBitcoins.com et Metacoingraph.
