Le rôle de RAND dans l'élaboration de la politique de Biden en matière d'IA soulève des questions d'influence

Le think tank influent RAND Corporation est sous le feu des critiques pour son rôle dans l'élaboration de la politique américaine en matière d'intelligence artificielle (IA). Une récente révélation suggère que RAND a largement contribué à la rédactiondent décret présidentiel de Joe Biden sur l'IA, notamment en ce qui concerne les obligations de déclaration pour les systèmes d'IA avancés. Bien que cette mesure vise à atténuer les risques potentiellement catastrophiques liés à l'IA, des inquiétudes subsistent quant à l'influence d'Open Philanthropy, un important donateur de RAND. 

L'influence de RAND sur la politique en matière d'IA

présidentieldent de Joe Biden sur l'intelligence artificielle, publié en octobre, définit les obligations de déclaration visant à encadrer l'utilisation et le développement des technologies d'IA avancées. Ces obligations, qui rejoignent les priorités politiques d'Open Philanthropy, cherchent à répondre aux risques existentiels posés par l'IA, tels que la possible création d'armes biologiques à l'aide de systèmes d'IA.

Il convient de noter que Jason Matheny, PDG de RAND, et Jeff Alstott, scientifique de l'information senior chez RAND, sont des figures importantes du mouvement de l'altruisme efficace, qui prône des approches philanthropiques fondées sur les données et souligne l'importance de s'attaquer au potentiel apocalyptique de l'IA.

la contribution de la philanthropie ouverte

Open Philanthropy, financée par Dustin Moskovitz, cofondateur de Facebook, et son épouse Cari Tuna, est un important donateur de RAND, avec plus de 15 millions de dollars versés cette année. L'organisation inscrit ses actions philanthropiques dans une perspective d'altruisme efficace, plaçant ainsi l'intelligence artificielle au cœur de ses préoccupations.

Les altruistes efficaces, notamment ceux de RAND, militent pour un développement et une réglementation responsables de l'IA afin de prévenir tout usage abusif de cette technologie puissante. Leur influence s'est accrue à Washington, les décideurs politiques reconnaissant de plus en plus la nécessité de s'attaquer aux dangers potentiels de l'IA.

Équilibrer les priorités

Les critiques affirment que l'attention excessive portée à l'intelligence artificielle par l'altruisme efficace pourrait, involontairement, servir les intérêts des géants de la technologie en détournant l'attention des décideurs politiques des problèmes existants liés à l'IA. Parmi ces problèmes figurent la perpétuation des biais raciaux dans les systèmes d'IA et l'affaiblissement des protections du droit d'auteur.

Cette critique soulève des questions quant aux biais potentiels dans l'élaboration des politiques relatives à l'IA. Des membres du personnel de RAND, liés à l'altruisme efficace, participent à la rédaction des décrets présidentiels et influencent l'orientation de la réglementation en matière d'IA.

En réponse à ces inquiétudes, le porte-parole de RAND, Jeffrey Hiday, a reconnu que des membres de RAND avaient participé à la rédaction du décret présidentiel sur l'IA. Il a expliqué que la mission principale de RAND est de mener des recherches et d'analyser des sujets cruciaux et de partager cette expertise avec les décideurs politiques. Cependant, M. Hiday n'a pas abordé directement les questions relatives à l'objectivité de l'organisation, compte tenu de ses liens avec Open Philanthropy.

Préoccupations des employés

Les récentes révélations concernant l'implication de RAND dans l'élaboration des politiques en matière d'IA n'ont pas échappé à l'attention de ses employés. Lors d'une réunion générale en octobre, un employé a exprimé ses inquiétudes quant au fait que les liens du think tank avec Open Philanthropy puissent nuire à sa réputation de rigueur et d'objectivité. On craint que l'association de RAND avec l'altruisme efficace ne conduise à privilégier les intérêts de ce mouvement au détriment d'une élaboration impartiale des politiques.

L'influence considérable de la RAND Corporation sur la politique d'intelligence artificielle dudent Biden a soulevé des questions quant à l'objectivité et aux possibles biais de l'organisation. Bien que ce groupe de réflexion affirme que son implication s'inscrit dans sa mission d'expertise auprès des décideurs politiques, des inquiétudes persistent quant à l'influence d'Open Philanthropy et du mouvement de l'altruisme efficace sur l'élaboration de cette politique.

À mesure que l'IA progresse et joue un rôle de plus en plus crucial dans la société, il est essentiel que les décideurs politiques, les groupes de réflexion et les organisations impliquées dans l'élaboration des politiques en matière d'IA fassent preuve de transparence et d'impartialité afin de garantir un développement et une réglementation responsables de cette technologie transformatrice. Le débat sur la manière de trouver un équilibre entre innovation et protection contre les risques potentiels se poursuivra probablement au fil de l'évolution de l'IA.