OpenAILa structure de gouvernance d'OpenAI et le rôle de son conseil d'administration dans la réalisation de l'intelligence artificielle générale (IAG) ont soulevé des questions quant à l'avenir de son partenariat avec Microsoft et à son impact global sur le monde. La structure complexe de l'organisation, plafonnée en raison de son statut d'organisme à but non lucratif, et le conflit d'intérêts potentiel entre les secteurs lucratif et non lucratif ont fait l'objet d'un examen attentif.
defide l'IA générale par OpenAI
OpenAI, acteur majeur de l'intelligence artificielle, s'est fixé pour objectif defide créer une intelligence artificielle générale (IAG), qu'elle décrit comme « un système hautement autonome surpassant les humains dans les tâches les plus rentables ». La réalisation d'une IAG constitue une étape cruciale susceptible de transformer en profondeur les industries et les sociétés du monde entier. Toutefois, la nature ambiguë et évolutive de l'IAG rend difficile l'établissement de critères clairs pour sa mise en œuvre.
OpenAI fonctionne selon une structure de gouvernance unique, où un conseil d'administration à but non lucratif, composé de six membres, est habilité à déterminer quand l'intelligence artificielle générale (IAG) a été atteinte. Ce conseil comprend des dirigeants d'OpenAI, comme son PDG Sam Altman, ainsi que des personnalités externes expertes en IA et en politiques publiques. Sa composition a suscité des interrogations en raison de potentiels conflits d'intérêts et de l'influence du mouvement de l'altruisme efficace.
L'investissement et la participation de Microsoft dans OpenAI
Microsoft est un investisseur important d'OpenAI et a un intérêt direct dans la réussite de l'organisation à atteindre l'intelligence artificielle générale (IAG). Bien qu'il s'agisse d'une entité à but lucratif, OpenAI Global, LLC est entièrement contrôlée par l'organisation à but non lucratif OpenAI et est légalement tenue de poursuivre sa mission. La volonté de Microsoft de soutenir la mission d'OpenAI, qui vise à fournir une IAG sûre et bénéfique, a joué un rôle crucial dans leur partenariat.
Le rôle du conseil d'administration d'OpenAI dans la définition de l'intelligence artificielle générale (IAG) soulève des questions quant à l'avenir de l'implication de Microsoft. Une fois l'IAG atteinte, les accords commerciaux d'OpenAI, notamment les licences de propriété intellectuelle, ne s'appliqueront plus aux technologies post-IAG. L'investissement considérable de Microsoft pourrait être compromis si le conseil d'administration d'OpenAI décide de privilégier les intérêts non lucratifs aux dépens des intérêts commerciaux.
Des experts juridiques se sont penchés sur le caractère inhabituel de la prise de décisions opérationnelles concernant l'intelligence artificielle générale par le conseil d'administration d'OpenAI. Bien qu'aucun obstacle juridique ne soit avéré, le risque de conflits d'intérêts entre les intérêts d'une organisation à but non lucratif et ceux d'une entreprise à but lucratif demeure une préoccupation. Certains estiment que le droit des sociétés impose généralement aux administrateurs l'obligation de superviser les questions essentielles à la mission de l'organisation, ce qui pourrait justifier l'approche d'OpenAI.
Diversité et perspectives
Les critiques affirment que l'accent mis par OpenAI sur l'IA générale a occulté les impacts actuels des technologies et outils d'IA. Des inquiétudes ont été soulevées quant à la diversité des points de vue au sein d'OpenAI et de son conseil d'administration. Toutefois, le débat sur la composition du conseil risque detracl'attention de questions plus fondamentales concernant la légitimité de la mission d'OpenAI et de ses affirmations relatives à l'IA générale.
defichangeante de l'IA générale (IAG) proposée par OpenAI, qui suggère que la première IAG ne représentera qu'un point sur le continuum de l'intelligence, complexifie encore la situation. Le PDG, Sam Altman, envisage un avenir avec plusieurs IAG afin d'éviter la concentration du pouvoir. Ces defiévolutives soulèvent des questions quant aux implications pratiques du partenariat avec Microsoft.
