Le conseil d'administration d'OpenAI déterminera l'AGI : implications pour Microsoft et le monde

La structure de gouvernance d'OpenAI et le rôle de son conseil d'administration dans la détermination de l'atteinte de l'Intelligence Artificielle Générale (AGI) ont soulevé des questions sur l'avenir de son partenariat avec Microsoft et l'impact plus large sur le monde. La structure complexe à but non lucratif avec plafond de profit d'OpenAI et le conflit potentiel entre les intérêts à but lucratif et non lucratif sont sous le feu des projecteurs.

La définition de l'AGI par OpenAI

OpenAI, un acteur de premier plan dans le domaine de l'intelligence artificielle, a fixé un objectif définissant la création de l'AGI, qu'elle décrit comme « un système hautement autonome qui surpasse les humains dans la plupart des travaux économiquement valorisables ». L'atteinte de l'AGI est une étape cruciale qui pourrait remodeler les industries et les sociétés du monde entier. Cependant, la nature ambiguë et évolutive de l'AGI rend difficile l'établissement de critères clairs pour son atteinte.

OpenAI fonctionne sous une structure de gouvernance unique, où un conseil d'administration à but non lucratif, composé de six membres, détient l'autorité de déterminer quand l'AGI a été atteinte. Ce conseil comprend des dirigeants d'OpenAI, tels que le PDG Sam Altman, ainsi que des figures externes ayant une expertise en IA et en politique. La composition du conseil a attiré l'attention en raison de conflits d'intérêts potentiels et de l'influence du mouvement de l'Altruisme Efficace.

L'investissement et la participation de Microsoft dans OpenAI

Microsoft est un investisseur majeur d'OpenAI et a un intérêt direct dans le succès de l'organisation à atteindre l'IA générale (AGI). Bien qu'il s'agisse d'une entité à but lucratif, OpenAI Global, LLC, est entièrement contrôlée par l'organisation à but non lucratif OpenAI et est légalement tenue de poursuivre la mission de cette dernière. La volonté de Microsoft de soutenir la mission d'OpenAI de fournir une AGI sûre et bénéfique a joué un rôle crucial dans leur partenariat.

Le rôle du conseil d'administration d'OpenAI dans la détermination de l'AGI a soulevé des questions sur l'avenir de l'implication de Microsoft. Une fois l'AGI atteinte, les accords commerciaux d'OpenAI, y compris les licences de propriété intellectuelle, ne s'appliqueront plus à la technologie post-AGI. L'investissement substantiel de Microsoft pourrait faire face à l'incertitude si le conseil d'administration d'OpenAI décide de privilégier les intérêts non lucratifs par rapport aux intérêts à but lucratif.

Des experts juridiques se sont prononcés sur la nature inhabituelle du conseil d'administration d'OpenAI prenant des décisions opérationnelles concernant l'AGI. Bien qu'il n'y ait peut-être pas d'obstacle juridique, le potentiel de conflits entre les intérêts non lucratifs et à but lucratif reste une préoccupation. Certains soutiennent que le droit des sociétés impose généralement une obligation aux administrateurs de superviser les questions critiques pour la mission, ce qui pourrait justifier l'approche d'OpenAI.

Diversité et perspectives

Les critiques soutiennent que la focalisation d'OpenAI sur l'AGI a éclipsé les impacts actuels des technologies et outils d'IA. Des préoccupations ont été soulevées concernant la diversité des perspectives au sein d'OpenAI et de son conseil d'administration. Cependant, le débat sur la composition du conseil peut distraire de questions plus fondamentales sur la légitimité de la mission d'OpenAI et ses affirmations concernant l'AGI.

La définition changeante de l'AGI par OpenAI, qui suggère que la première AGI ne sera qu'un point le long du continuum de l'intelligence, ajoute à la complexité de la situation. Le PDG Sam Altman envisage un avenir avec plusieurs AGI pour éviter la concentration du pouvoir. Ces définitions évolutives soulèvent des questions sur les implications pratiques pour le partenariat de Microsoft.