D'anciens chercheurs d'OpenAI critiquent l'opposition de l'entreprise au projet de loi californien sur l'IA

Deux anciens chercheurs d'OpenAI, Daniel Kokotajlo et William Saunders, ont exprimé leur mécontentement quant à la position de l'entreprise sur le projet de loi californien de réglementation de l'IA, le SB 1047. Ils avaient quitté l'entreprise plus tôt cette année, invoquant des problèmes de sécurité liés au rythme élevé du développement de l'IA. 

Dans une lettre adressée à Politico, ils ont exprimé leur désaccord avec la position d'OpenAI concernant ce projet de loi, affirmant qu'il est inapplicable aux précédents appels de l'entreprise en faveur d'une réglementation de l'IA. Cette lettre soulève une préoccupation plus générale quant à la gestion et à la sécurité de l'IA. Selon Kokotajlo et Saunders, l'opposition d'OpenAI au projet de loi SB 1047 révèle l'attitude irresponsable de l'organisation vis-à-vis du développement de l'IA. 

« Sam Altman, notre ancien patron, a plaidé à maintes reprises pour une réglementation de l'IA », ont écrit Kokotajlo et Saunders. « Or, maintenant qu'une réglementation concrète est envisagée, il s'y oppose. » 

OpenAI défend sa position et appelle à une réglementation fédérale

Ils ont souligné que la mission d'Aidos est de développer une intelligence artificielle générale (IAG) en toute sécurité, mais que les mesures prises par l'entreprise vont à l'encontre de cette mission. Les chercheurs ont demandé au gouverneur de Californie, Gavin Newsom, d'approuver le projet de loi afin que de meilleures précautions de sécurité puissent être prises concernant la technologie de l'IA. 

En réponse à la lettre des anciens chercheurs, un représentant d'OpenAI a publié une déclaration niant les allégations de déformation des faits. Le porte-parole a également indiqué qu'OpenAI soutient certains projets de loi relatifs à la sécurité de l'IA au Congrès et affirme que ces technologies devraient être réglementées au niveau fédéral car elles constituent une menace pour la sécurité nationale et affectent la compétitivité du pays sur la scène internationale.

OpenAI a souvent plaidé pour une réglementation adéquate de l'IA, mais souhaite que la question soit traitée au niveau fédéral. Selon l'entreprise, seule une législation fédérale peut apporter des solutions juridiques plus efficaces aux dangers que représentent les technologies d'IA de pointe et garantir un cadre juridique unifié sur l'ensemble du territoire national. 

Anthropic adopte une position différente sur la législation californienne en matière d'IA

De son côté, Anthropic, concurrent d'OpenAI, a salué le projet de loi SB 1047 tout en proposant quelques modifications. Le PDG de l'entreprise, Dario Amodei, ancien employé d'OpenAI, s'est montré plus modéré dans son analyse du texte. Dans une lettre adressée au gouverneur Newsom, il a indiqué que, malgré certains avantages, la version actuelle, amendée, était à la fois rentable et bénéfique. 

Le soutien apporté par Anthropic au projet de loi témoigne d'une approche singulière en matière de gouvernance de l'IA. Ce soutien, ainsi que les amendements proposés, diffèrent de l'approche fédérale défendue par OpenAI. Le sort du SB 1047 influencera très probablement les débats futurs aux niveaux étatique et fédéral.