L'avancement des modèles de langage IA soulève des préoccupations concernant le bioterrorisme et les armes biologiques

L'avancement rapide de l'intelligence artificielle a conduit à de nombreuses percées dans la science et les soins de santé, révolutionnant divers domaines pour le mieux. Cependant, cela soulève également de sérieuses préoccupations concernant une utilisation potentielle abusive, en particulier dans le contexte du bioterrorisme et des armes biologiques. Le cas infamous d'Aum Shinrikyo, un culte japonais tentant une attaque de bioterrorisme utilisant de la toxine botulique, illustre comment l'accès aux modèles de langage IA contemporains pourrait potentiellement augmenter le risque d'événements de bioterrorisme dévastateurs.

Les grands modèles de langage comme ChatGPT et les outils de conception biologique alimentés par l'IA peuvent agir comme des multiplicateurs de menaces, permettant aux acteurs mal intentionnés d'accéder à des connaissances scientifiques à double usage et d'accélérer le développement d'agents biologiques dangereux. À mesure que l'intersection de l'IA et de la biologie devient plus accessible, des mesures urgentes doivent être prises pour renforcer la biosécurité et la gouvernance de l'IA.

La menace des modèles de langage IA dans le bioterrorisme

La facilité avec laquelle les grands modèles de langage comme ChatGPT peuvent fournir des informations sur des pathogènes potentiellement dangereux et des armes biologiques est une préoccupation majeure. Un exercice récent au MIT a démontré qu'en seulement une heure, ChatGPT a instruit des étudiants non scientifiques sur quatre pathogènes pandémiques potentiels et sur la manière d'acquérir du matériel génétique sans être détecté. La diffusion d'informations pourrait permettre aux acteurs mal intentionnés d'explorer les armes biologiques sans l'expertise nécessaire.

Abaisser la barrière du savoir tacite

Bien que les modèles de langage IA ne puissent pas fournir d'expérience pratique, ils peuvent abaisser la barrière du savoir tacite nécessaire à la création d'agents biologiques. À mesure que les systèmes IA continuent d'évoluer, ils pourraient faciliter l'automatisation de la science et le développement d'armes biologiques de manière covert, réduisant le besoin de nombreux scientifiques dans de tels projets.

Le rôle des outils de conception biologique

Des outils IA spécialisés comme AlphaFold2 et RFdiffusion repoussent déjà les limites des capacités de conception biologique. Bien qu'ils aient le potentiel d'apporter des avancées significatives en médecine, ils pourraient également exacerber les risques biologiques en permettant la création de pathogènes hautement dangereux avec des propriétés sans précédent. De tels outils pourraient remettre en question les mesures existantes pour contrôler l'accès aux toxines et pathogènes dangereux, car ils génèrent des agents aux propriétés dangereuses non couvertes par les méthodes de dépistage conventionnelles.

Règles obligatoires de synthèse génique

Le dépistage universel de la synthèse génique est essentiel pour atténuer les risques découlant de l'intersection de l'IA et de la biologie. Cela implique de vérifier les commandes et les clients pour s'assurer que seuls les chercheurs légitimes accèdent au matériel génétique pour les agents contrôlés. La mise en œuvre d'un dépistage de base obligatoire pour les fournisseurs de synthèse génique et d'autres prestataires de services cruciaux est nécessaire pour empêcher l'exploitation des faiblesses de la sécurité de la chaîne d'approvisionnement.

Le besoin de gouvernance de l'IA

Des interventions spécifiques à l'IA sont vitales pour gérer les risques des grands modèles de langage et des outils de conception biologique. Des évaluations préliminaires des capacités des modèles peuvent garantir que les fonctionnalités dangereuses ne sont pas présentes lors de la publication publique. La publication des modèles par des méthodes d'accès structurées, plutôt que par l'open source, permet une mise à jour continue des sauvegardes. Les décideurs politiques doivent réfléchir à qui devrait avoir accès aux capacités scientifiques à double usage et prendre en compte les contributions de voix diverses provenant de différentes disciplines, démographies et géographies.

Trouver un équilibre entre la facilitation de la recherche scientifique légitime et la prévention de la diffusion de connaissances dangereuses est crucial. Les versions publiques des modèles de langage comme ChatGPT peuvent choisir de ne pas fournir d'instructions détaillées sur la création de pathogènes dangereux. En même temps, des méthodes d'accès spécialisées peuvent être mises en œuvre pour les scientifiques légitimes disposant de la formation et de l'approbation appropriées.

La convergence de l'IA et de la biologie offre un vaste potentiel d'impacts positifs sur la science et les soins de santé. Cependant, ces mêmes avancées présentent des risques sérieux, notamment en ce qui concerne le bioterrorisme et les armes biologiques. À mesure que les modèles de langage IA et les outils de conception biologique deviennent de plus en plus accessibles, des mesures urgentes sont nécessaires pour renforcer la biosécurité et la gouvernance. La mise en œuvre d'un dépistage obligatoire de la synthèse génique, la réalisation d'évaluations préalables des capacités des modèles et l'assurance de méthodes d'accès différenciées pour les scientifiques légitimes sont des étapes clés pour relever ces défis émergents. Une action rapide des décideurs politiques peut non seulement améliorer la sécurité, mais aussi ouvrir la voie à une exploitation responsable des avantages de l'intelligence artificielle.