OpenAI dévoile un programme de subventions de 1 million de dollars pour révolutionner la gouvernance de l'IA

OpenAI, l'organisation derrière le chatbot IA ChatGPT, a lancé une initiative visant à favoriser une participation démocratique accrue au développement de l'intelligence artificielle. Dans une annonce récente du 25 mai, OpenAI a révélé son intention d'attribuer dix subventions, chacune d'une valeur de 100 000 dollars, pour soutenir des expériences axées sur l'établissement d'un processus démocratique de « preuve de concept » pour déterminer les règles que les systèmes d'IA devraient suivre.

L'entreprise a souligné que ces règles doivent s'aligner sur les limites légales et privilégier le bénéfice de l'humanité. OpenAI considère ce programme de subventions comme une étape vers la création de processus démocratiques pour superviser l'IA (Intelligence Artificielle Générale) et, à terme, la superintelligence. Les expériences menées grâce à ces subventions serviront de base à un projet mondial plus vaste et plus ambitieux à l'avenir. OpenAI a précisé que les conclusions tirées de ces expériences ne seront pas contraignantes mais contribueront à explorer des questions importantes concernant la gouvernance de l'IA.

Les subventions sont financées par la division à but non lucratif d'OpenAI, et l'organisation a l'intention de rendre les résultats du projet librement accessibles au public. Cette initiative survient alors que les gouvernements du monde entier envisagent de mettre en œuvre des réglementations pour l'IA générative à usage général. 

Adoption d'OpenAI

Le PDG d'OpenAI, Sam Altman, s'est récemment entretenu avec les régulateurs européens pour souligner l'importance de favoriser l'innovation grâce à des réglementations non restrictives. Altman a également témoigné devant le Congrès des États-Unis, transmettant un message similaire.

L'annonce d'OpenAI s'aligne sur la croyance que les lois devraient être spécifiquement adaptées à la technologie, soulignant la nécessité de directives plus complexes et adaptables régissant le comportement de l'IA. L'organisation a posé des questions stimulantes, telles que la manière dont les points de vue contestés devraient être représentés dans les sorties de l'IA, en soulignant qu'aucune entité unique, qu'il s'agisse d'un individu, d'une entreprise ou d'un pays, ne devrait dicter unilatéralement de telles décisions.

L'entreprise a précédemment mis en garde contre l'émergence potentielle d'une IA surhumaine au cours de la prochaine décennie si le développement n'est pas abordé de manière réfléchie, soulignant l'importance de « bien faire les choses ». Le nouveau programme de subventions de l'organisation vise à promouvoir l'inclusivité et l'entrée du public dans l'élaboration de l'avenir du développement de l'IA, s'efforçant in fine d'assurer une avancée responsable et bénéfique de la technologie.