La mission d'OpenAI : concilier profit et développement éthique de l'IA

OpenAI, laboratoire de recherche en intelligence artificielle de renommée mondiale, a fait sensation en 2019 en annonçant sa transformation d'organisation à but non lucratif en entreprise à but lucratif. Ce changement a marqué une rupture significative avec sa mission initiale et a soulevé des questions quant à l'avenir du développement éthique de l'IA. Dans cet article, nous explorerons les raisons de cette transformation, ses implications et les luttes de pouvoir qui animent actuellement le secteur de l'IA.

Les débuts de l'organisation à but non lucratif

Fondé en 2015 dans la Silicon Valley, OpenAI est un laboratoire de recherche à but non lucratif animé par l'ambitieuse mission de faire progresser l'intelligence artificielle au service de la société. Ses fondateurs, parmi lesquels figurent des personnalités telles qu'Elon Musk et Sam Altman, souhaitaient créer un environnement sécurisé permettant aux chercheurs d'explorer pleinement le potentiel de l'IA sans compromettre la sécurité ni l'éthique.

L'une des premières initiatives d'OpenAI a été la publication d'OpenAI Gym, une boîte à outils permettant de concevoir des systèmes d'IA utilisant l'apprentissage par renforcement. Par ailleurs, l'organisation a lancé « Universe », une plateforme logicielle destinée à évaluer et à améliorer l'intelligence générale de l'IA grâce à diverses applications et jeux.

Cependant, en 2018, Elon Musk a quitté le conseil d'administration d'OpenAI en raison d'un conflit d'intérêts perçu avec les recherches de Tesla en matière d'IA pour la conduite autonome. Malgré cela, il est resté donateur de l'organisation.

En tant qu'organisation à but non lucratif, OpenAI était confrontée à des contraintes financières pour mener à bien ses recherches. Malgré la noblesse de sa mission, l'organisation devait gérer son budget avec rigueur afin de développer des technologies d'IA de pointe. OpenAI était convaincue que son statut d'organisation ouverte et à but non lucratif lui permettrait de se concentrer sur un impact humain positif sans obligations financières.

La transition vers le profit

En 2019, OpenAI a fait une annonce historique : la création d’OpenAI LP, une société à but lucratif plafonné, afin d’opérer une transition vers un modèle à but lucratif tout en préservant sa mission. Cette décision était motivée par plusieurs facteurs, notamment la nécessité d’investissements substantiels dans le cloud computing, le recrutement de talents et les supercalculateurs dédiés à l’IA.

L'une des principales raisons invoquées pour cette transition était le souci de sécurité. L'équipe de sécurité d'OpenAI estimait que rendre l'ensemble de leurs travaux open source pourrait favoriser les abus, tels que le plagiat, les bots, les faux avis et le spam. Par conséquent, ils ont décidé de ne pas diffuser certaines technologies d'IA.

Concilier profit et éthique

La transition d'OpenAI vers une entreprise à but lucratif a soulevé des questions quant à son engagement en faveur d'un développement éthique de l'IA. Pour répondre à ces préoccupations, la société a adopté un système de plafonnement des profits. Les investisseurs de la première levée de fonds ne recevront qu'un rendement maximal de 100 fois leur investissement initial, empêchant ainsi une accumulation excessive de richesses.

Si Elon Musk a initialement invoqué un conflit d'intérêts pour justifier son départ d'OpenAI, des sources indiquent que son départ serait plutôt dû au rejet d'une proposition de rachat de l'entreprise et de concurrence avec Google. Son départ a également entraîné le non-versement d'un important don qu'il avait prévu.

Après le départ d'Elon Musk, Microsoft a investi un milliard de dollars dans OpenAI, obtenant ainsi les droits de licence exclusifs sur le modèle GPT-3 et devenant le fournisseur exclusif de services cloud. Cette collaboration a permis à OpenAI de construire un supercalculateur pour l'entraînement de modèles à grande échelle, donnant naissance à des innovations telles que ChatGPT et DALL-E.

L'avenir d'OpenAI

L'objectif principal d'OpenAI demeure le développement de systèmes d'IA ayant un impact positif sur la société. L'organisation vise à collaborer avec les institutions de recherche et les instances politiques afin de promouvoir la sécurité dans le développement de l'IA générale. Cependant, la concurrence dans le secteur de l'IA s'intensifie, Elon Musk poursuivant activement le développement d'une start-up concurrente.

Malgré la décision de Sam Altman de renoncer à des parts dans l'entité à but lucratif afin de rester fidèle à la mission initiale, des doutes persistent quant au passage d'OpenAI d'un modèle ouvert à un modèle fermé. L'entreprise continue de repousser les limites de la recherche et du développement en IA, et nous sommes impatients de découvrir ses prochaines innovations.

La décision de se séparer de Sam Altman du conseil d'administration d'OpenAI pourrait s'expliquer par plusieurs facteurs. Parmi ceux-ci figurent les coûts importants liés à l'entraînement et à l'exploitation de modèles d'IA avancés, ainsi que les difficultés rencontrées en raison des pannes de système et des problèmes de capacité. De plus, des inquiétudes ont été soulevées concernant l'acquisition de données d'entraînement sur Internet et la nécessité de mettre en place des mécanismes de protection des résultats du modèle.

Un autre point de discorde potentiel résidait dans l'insistance constante d'Altman sur l'impact négatif potentiel de l'IA sur la société, un point de vue que certains experts jugent exagéré. Il défendait également un type d'intelligence artificielle générale que beaucoup considéraient comme indésirable.

De plus, des désaccords ont pu surgir concernant l'évolution d'OpenAI vers une orientation commerciale et lucrative, qui s'écartait de son orientation initiale à but non lucratif.