Le rôle de la RAND dans l'élaboration de la politique d'IA de Biden soulève des questions sur l'influence
- Le rôle de la RAND Corporation dans l’élaboration de la politique sur l’IA du président Biden soulève des inquiétudes concernant d’éventuels biais, en raison de ses liens étroits avec Open Philanthropy, un donateur majeur.
- Les adeptes de l’altruisme efficace au sein de RAND privilégient la prise en compte des risques apocalyptiques liés à l’IA, mais les critiques estiment que cette focalisation peut négliger des problèmes existants tels que les biais raciaux dans les systèmes d’IA et les questions de droits d’auteur.
- Les préoccupations des employés de RAND mettent en lumière les craintes selon lesquelles l’affiliation de l’organisation à l’altruisme efficace pourrait compromettre sa réputation d’objectivité dans le développement des politiques sur l’IA.
Un think tank influent, la RAND Corporation, a été mis sous scrutiny pour son implication dans l'élaboration de la politique américaine en matière d'IA. Une récente révélation suggère que la RAND a considérablement rédigé l'ordre exécutif du président Joe Biden sur l'intelligence artificielle (IA), en se concentrant spécifiquement sur les exigences de déclaration pour les systèmes d'IA avancés. Bien que cette démarche vise à atténuer les risques potentiellement catastrophiques associés à l'IA, des préoccupations ont émergé concernant l'influence d'Open Philanthropy, un donateur majeur de la RAND.
L'influence de la RAND sur la politique d'IA
L'ordre exécutif du président Biden sur l'IA, publié en octobre, établit des exigences de déclaration pour réglementer l'utilisation et le développement des technologies d'IA avancées. Ces exigences, qui ressemblent aux priorités politiques d'Open Philanthropy, cherchent à répondre aux risques existentiels posés par l'IA, tels que la création potentielle d'armes biologiques à l'aide de systèmes d'IA.
Notamment, Jason Matheny, PDG de la RAND, et Jeff Alstott, scientifique senior de l'information à la RAND, sont des figures de proue du mouvement de l'altruisme efficace, qui préconise des approches fondées sur les données pour la philanthropie et souligne l'importance d'aborder le potentiel apocalyptique de l'IA.
La contribution de la philanthropie ouverte
Open Philanthropy, financée par le cofondateur de Facebook Dustin Moskovitz et son épouse Cari Tuna, est un contributeur significatif à la RAND, ayant fait don de plus de 15 millions de dollars cette année seulement. L'organisation aligne ses efforts philanthropiques sur l'altruisme efficace, qui place la technologie de l'IA au premier plan de ses préoccupations.
Les altruistes efficaces, y compris ceux de la RAND, plaident pour le développement responsable et la réglementation de l'IA afin d'empêcher la mauvaise utilisation de cette technologie puissante. Leur influence a grandi à Washington alors que les décideurs politiques reconnaissent de plus en plus la nécessité d'aborder les dangers potentiels de l'IA.
Équilibrer les priorités
Les critiques soutiennent que l'intense focalisation de l'altruisme efficace sur l'IA pourrait servir indirectement les intérêts des géants de la technologie en détournant l'attention des décideurs politiques des problèmes existants liés à l'IA. De tels problèmes incluent la perpétuation des biais raciaux dans les systèmes d'IA et l'érosion des protections du droit d'auteur.
Cette critique soulève des questions sur le biais potentiel dans l'élaboration de la politique d'IA. Le personnel de la RAND, lié à l'altruisme efficace, participe à la rédaction des ordres exécutifs et influence l'orientation de la réglementation de l'IA.
En réponse à ces préoccupations, le porte-parole de la RAND, Jeffrey Hiday, a reconnu que le personnel de la RAND a joué un rôle dans la rédaction de l'ordre exécutif sur l'IA. Il a expliqué que la mission fondamentale de la RAND est de rechercher et d'analyser des sujets critiques et de partager cette expertise avec les décideurs politiques. Cependant, Hiday n'a pas directement abordé les préoccupations concernant l'objectivité de l'organisation à la lumière de ses liens avec Open Philanthropy.
Préoccupations des employés
Les récentes révélations sur l'implication de la RAND dans l'élaboration de la politique d'IA n'ont pas passé inaperçues parmi ses employés. Lors d'une réunion générale en octobre, un employé a exprimé des préoccupations selon lesquelles le lien de la RAND avec Open Philanthropy pourrait nuire à sa réputation de rigueur et d'objectivité. Il y a des craintes que l'association de la RAND avec l'altruisme efficace ne conduise à privilégier le « programme de l'altruisme efficace » plutôt qu'un développement politique impartial.
L'influence substantielle de la RAND Corporation dans l'élaboration de la politique d'IA du président Biden a soulevé des questions sur l'objectivité de l'organisation et un biais potentiel. Bien que le think tank affirme que son implication s'aligne sur sa mission de fournir une expertise aux décideurs politiques, des préoccupations persistent concernant l'influence d'Open Philanthropy et du mouvement de l'altruisme efficace sur l'élaboration de la politique d'IA.
Alors que l'IA continue d'avancer et de jouer un rôle de plus en plus central dans la société, il est essentiel que les décideurs politiques, les think tanks et les organisations impliquées dans l'élaboration de la politique d'IA maintiennent la transparence et l'impartialité pour assurer le développement et la réglementation responsables de cette technologie transformative. Le débat sur la manière de trouver cet équilibre entre innovation et sauvegarde contre les risques potentiels continuera probablement à mesure que la technologie d'IA évoluera.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
