OpenAI OpenAI, l'organisation à l'origine du chatbot ChatGPT, a lancé une initiative visant à encourager une plus grande participation démocratique au développement de l'intelligence artificielle. Dans une annonce récente, le 25 mai, OpenAI a révélé son intention d'octroyer dix subventions de 100 000 dollars chacune afin de soutenir des expériences axées sur la mise en place d'un processus démocratique de validation de principe permettant de définir les règles que les systèmes d'IA devraient suivre.
L'entreprise a souligné que ces règles doivent respecter le cadre légal et privilégier l'intérêt de l'humanité. OpenAI considère ce programme de subventions comme une étape vers la mise en place de processus démocratiques pour superviser l'IA générale (IAG) et, à terme, la superintelligence. Les expériences menées grâce à ces subventions serviront de base à un projet mondial plus ambitieux et de plus grande envergure. OpenAI a précisé que les conclusions tirées de ces expériences ne seront pas contraignantes, mais contribueront à explorer des questions importantes relatives à la gouvernance de l'IA.
Ces subventions sont financées par la branche à but non lucratif d'OpenAI, qui prévoit de rendre les résultats du projet librement accessibles au public. Cette initiative intervient alors que les gouvernements du monde entier envisagent de réglementer l'intelligence artificielle générative à usage général.
Adoption d'OpenAI
Le PDG d'OpenAI, Sam Altman, s'est récemment entretenu avec les autorités de régulation européennes afin de souligner l'importance de favoriser l'innovation par le biais de réglementations non restrictives. Il a également témoigné devant le Congrès américain, transmettant un message similaire.
d'OpenAI L'annonce s'inscrit dans la lignée de l'idée que les lois doivent être spécifiquement adaptées à la technologie, soulignant la nécessité de directives plus nuancées et adaptables encadrant le comportement de l'IA. L'organisation a soulevé des questions qui invitent à la réflexion, notamment sur la manière dont les points de vue divergents devraient être représentés dans les résultats de l'IA, insistant sur le fait qu'aucune entité, qu'il s'agisse d'un individu, d'une entreprise ou d'un pays, ne devrait imposer unilatéralement de telles décisions.
L'entreprise a déjà mis en garde contre l'émergence potentielle d'une IA surhumaine au cours de la prochaine décennie si son développement n'est pas abordé avec soin, soulignant l'importance d'une approche rigoureuse. Son nouveau programme de subventions vise à promouvoir l'inclusion et la participation du public dans la définition de l'avenir du développement de l'IA, avec pour objectif final un progrès responsable et bénéfique de cette technologie
