Les NIH font face à un tollé alors que l'« interdiction de l'IA » manque de compréhension technologique

La récente décision des National Institutes of Health (NIH) des États-Unis d'interdire l'utilisation de l'intelligence artificielle (IA) dans leur processus d'examen des subventions a attiré de vives critiques de la part de la communauté académique. Bien que cette politique vise à protéger la confidentialité des soumissions de subventions, des experts soutiennent qu'elle manque d'une compréhension claire de la technologie, affectant potentiellement même des moteurs de recherche courants comme Google. Cette controverse a enflammé un débat sur la portée et les implications de l'interdiction, alors que les chercheurs cherchent à clarifier la ligne entre les outils d'IA et les requêtes en ligne de base.

L'interdiction de l'IA par les NIH soulève des questions

Les National Institutes of Health des États-Unis, un acteur majeur du financement de la recherche, ont introduit une interdiction d'intégrer l'intelligence artificielle dans le processus d'examen des subventions. La raison derrière cette interdiction est ancrée dans des préoccupations concernant la préservation de la confidentialité des soumissions de subventions. Selon les NIH, les services d'IA soulèvent des drapeaux rouges car ils ont la capacité de stocker et de réutiliser toute information qui leur est fournie, violant ainsi les attentes de confidentialité du processus de révision par les pairs. Cependant, cette position a déclenché un tollé significatif au sein de la communauté académique.

Les critiques soutiennent que l'interdiction de l'IA par les NIH ne trace pas une ligne claire entre l'utilisation de systèmes d'IA avancés et la réalisation de recherches en ligne de base. À titre d'exemple poignant, les chercheurs soulignent qu'une requête apparemment innocente sur un moteur de recherche standard comme Google peut involontairement exposer des sujets d'application de subvention confidentiels. Jared Roach, chercheur scientifique principal à l'Institute for Systems Biology à Seattle, souligne la nécessité pour les NIH de définir précisément quels comportements ils ont l'intention d'interdire. Il suggère que bien qu'atteindre un risque zéro soit irréaliste, comprendre les niveaux de risque acceptables est crucial.

Débat sur les implications de l'interdiction de l'IA

Les NIH, en tant que principale source de financement de la recherche fondamentale aux États-Unis, distribuent une part substantielle de leur budget annuel par le biais de subventions. Ces subventions font l'objet d'un processus d'examen approfondi, avec des universitaires bénévoles évaluant la nouveauté et l'importance des sujets de recherche proposés. Typiquement, les évaluateurs utilisent des ressources en ligne, y compris des moteurs de recherche, pour approfondir l'arrière-plan de ces sujets. Cependant, l'introduction de l'interdiction a enflammé un débat sur la possibilité que les recherches web de base elles-mêmes puissent involontairement violer la confidentialité, compte tenu de la nature interconnectée de l'information numérique.

Les responsables des NIH maintiennent leur décision, affirmant que les recherches web standard et les systèmes basés sur l'IA diffèrent fondamentalement. Ils soutiennent que tandis que les recherches web récupèrent des informations existantes, les systèmes d'IA génèrent de nouvelles sorties basées sur des entrées, posant un risque plus grand de réutilisation d'informations confidentielles. Des experts de l'industrie, dont Mohammad Hosseini, chercheur postdoctoral à l'Université Northwestern, sont d'accord avec cette différenciation. Il souligne que les systèmes d'IA impliquent des entrées complètes, tandis que les recherches web consistent généralement en quelques mots-clés. Cette distinction, note-t-il, est particulièrement cruciale pour protéger les chercheurs et leurs idées des préoccupations liées à la propriété intellectuelle.

L'appel à la clarté

Alors que le débat fait rage, les universitaires soulignent l'importance de définir clairement les limites de l'interdiction de l'IA. Des experts soutiennent qu'une compréhension nuancée du fonctionnement de la technologie est nécessaire pour s'assurer que l'interdiction sert efficacement son objectif sans entraver involontairement le processus de recherche. Équilibrer le besoin de confidentialité avec les réalités de la technologie moderne est primordial, alors que le paysage de la recherche devient de plus en plus numérique et interconnecté.

Bien que l'interdiction de l'IA par les NIH ait suscité la controverse, elle met également en lumière les défis plus larges posés par l'avancement rapide de la technologie dans le domaine de la recherche. Alors que la communauté scientifique fait face à ces défis, il devient évident que l'élaboration de politiques qui trouvent un équilibre délicat entre innovation et confidentialité est un effort continu. Le débat entourant l'interdiction de l'IA souligne la nécessité d'un dialogue continu entre les organismes de financement, les chercheurs et les experts technologiques pour façonner des politiques efficaces et bien informées pour l'avenir de la découverte scientifique.