L'intelligence artificielle pose de nouveaux risques dans le développement d'armes biologiques
- Les avancées en science et en IA facilitent la création de virus dangereux, soulevant des préoccupations en matière de biosécurité.
- Une petite équipe a récemment synthétisé un virus à partir de zéro, mettant en lumière l'accessibilité de cette technologie.
- Des institutions établies comme le Groupe d'Australie jouent un rôle crucial dans la prévention de l'utilisation abusive de l'IA et des biotechnologies à des fins nuisibles.
Le monde a été témoin d'avancées sans précédent en chimie, en biologie synthétique et en intelligence artificielle (IA) ces dernières années. Ces innovations, combinées, ont ouvert une nouvelle ère de possibilités scientifiques. Cependant, un grand pouvoir implique de grandes responsabilités, et l'une des préoccupations émergentes est la mauvaise utilisation potentielle de cette convergence de connaissances. La synthèse de virus, autrefois une tâche réservée à des experts hautement spécialisés, devient plus accessible, soulevant des inquiétudes quant à la création de pathogènes mortels.
Un tournant notable
Un tournant significatif dans ce domaine s'est produit lorsqu'une petite équipe de chercheurs s'est lancée dans la synthèse de novo du virus de la variole du cheval, un orthopoxvirus. Bien que moins pathogène que la variole, ce virus est devenu un symbole de préoccupation en raison de la facilité avec laquelle il a été créé. L'équipe a obtenu des fragments d'ADN provenant d'une épidémie de variole du cheval en Mongolie en 1976 et a construit ces fragments d'ADN avec l'aide d'une entreprise de synthèse d'ADN.
Cette entreprise a marqué un « Rubicon dans le domaine de la biosécurité », démontrant qu'un orthopoxvirus pouvait être créé à partir de zéro en utilisant des matériaux et des informations disponibles dans le commerce pour environ 100 000 $.
Le rôle de l'intelligence artificielle
Alors que la technologie continue d'évoluer, le rôle de l'IA dans ce paysage ne peut être ignoré. Les grands modèles de langage (LLM), comme ceux devenus accessibles au public depuis la fin de l'année 2022, ont le potentiel d'aider à la construction de armes chimiques ou biologiques. Si les discussions sur l'IA se sont souvent concentrées sur le développement de systèmes superintelligents, une préoccupation plus immédiate est la contribution des LLM actuels à la réduction des « barrières informationnelles » dans la création de pathogènes mortels.
Armés des bonnes connaissances en biologie synthétique, ces modèles pourraient aider les personnes ayant une formation minimale à surmonter les défis de la production d'un pathogène viable présentant un potentiel pandémique.
L'accessibilité des LLM
Un aspect frappant de cette préoccupation est l'accessibilité des LLM. La création de pathogènes synthétiques devient de plus en plus réalisable avec simplement un synthétiseur de génome complet de bureau, l'accès à une littérature spécifique et une certaine formation scientifique. Le coût d'une telle entreprise a chuté de manière spectaculaire, des estimations suggérant qu'il pourrait bientôt ne nécessiter que peu de chose de plus que 20 000 $. Cette accessibilité soulève des questions sur la manière de réglementer et de surveiller l'utilisation de la technologie IA dans ce contexte.
Aborder les risques
Il est crucial de noter que le développement d'un pathogène synthétique ne garantit pas le déclenchement d'une pandémie. Cependant, les risques potentiels sont indéniables. Pour gérer ces risques, les experts suggèrent de se tourner vers des institutions établies qui ont déjà joué un rôle pivot dans le contrôle des armes biologiques et chimiques.
Le rôle du Groupe d'Australie
Une telle institution est le Groupe d'Australie (AG), fondé en 1984 pendant la guerre Iran-Irak. Initialement axé sur le contrôle des produits chimiques précurseurs d'armes non conventionnelles, le AG a évolué pour harmoniser la réglementation des composants « chim-bio ». Face à la nouvelle ère de l'IA et aux progrès de la biologie synthétique, le AG pourrait servir de plateforme pour la coopération internationale afin de relever ces menaces émergentes. En développant des listes de contrôle communes complètes et en coordonnant les efforts pour empêcher la mauvaise utilisation de la technologie, le AG peut jouer un rôle vital dans la lutte contre les dangers potentiels posés par la convergence de l'IA et des biotechnologies.
Conclusion
Alors que l'humanité fait face aux défis continus d'une pandémie mondiale et d'autres crises, l'émergence de nouvelles menaces dans le domaine des armes biologiques est un rappel de la nécessité de mesures proactives. L'avancement rapide de la technologie, couplé à l'accessibilité de l'IA et de la biologie synthétique, nécessite une réponse internationale coordonnée. Le Groupe d'Australie se dresse comme un phare d'espoir, offrant une plateforme pour naviguer dans ces défis et protéger la sécurité mondiale.
En l'absence de mesures proactives, les risques de mauvaise utilisation de l'IA et des biotechnologies sont grands, et le monde doit s'unir pour empêcher les conséquences potentiellement catastrophiques qui pourraient résulter de la création et du déploiement de pathogènes synthétiques. Le moment d'agir est avant que le monde ne fasse face à une nouvelle menace imprévue pour la stabilité et la sécurité mondiales.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement : Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne décline aucune responsabilité quant aux investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d’investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
