D'anciens chercheurs d'OpenAI critiquent l'opposition de l'entreprise au projet de loi californien sur l'IA
- D'anciens chercheurs d'OpenAI ont critiqué l'opposition de l'entreprise au projet de loi californien sur la sécurité de l'IA.
- OpenAI préfère une réglementation fédérale de l'IA plutôt qu'une réglementation au niveau des États.
- Anthropic, une autre entreprise américaine d'intelligence artificielle, a également apporté son soutien à ce projet de loi.
Deux anciens chercheurs d'OpenAI, Daniel Kokotajlo et William Saunders, ont exprimé leur mécontentement face à la position de l'entreprise concernant le projet de loi californien sur la régulation de l'IA, le SB 1047. Ils avaient quitté l'entreprise plus tôt cette année, citant des problèmes de sécurité découlant du rythme élevé du développement de l'IA.
Dans une lettre adressée à Politico, ils ont exprimé leur désaccord avec la position d'OpenAI sur ce projet de loi, affirmant qu'elle est inapplicable aux appels précédents de l'entreprise en faveur de la régulation de l'IA. La lettre soulève une préoccupation plus large concernant la gestion et la sécurité de l'IA. Selon Kokotajlo et Saunders, l'opposition d'OpenAI au SB 1047 révèle l'attitude irresponsable de l'organisation envers la création de l'IA.
« Sam Altman, notre ancien patron, a appelé à plusieurs reprises à une régulation de l'IA », ont écrit Kokotajlo et Saunders. « Maintenant, lorsque la régulation est effectivement sur la table, il s'y oppose. »
OpenAI défend sa position et appelle à une régulation fédérale
Ils ont souligné que la mission d'Aidos est de développer l'IA de manière sûre, mais que les mesures prises par l'entreprise sont contraires à cette mission. Les chercheurs ont demandé au gouverneur de Californie, Gavin Newsom, d'approuver le projet de loi afin que de meilleures précautions de sécurité puissent être prises avec la technologie de l'IA.
En réponse à la lettre des anciens chercheurs, un représentant d'OpenAI a partagé une déclaration niant les allégations de caractérisation erronée. Le porte-parole a également noté qu'OpenAI soutient certains projets de loi sur la sécurité de l'IA au Congrès et affirme qu'ils devraient être réglementés au niveau fédéral car ils posent une menace pour la sécurité nationale et affectent la compétitivité du pays sur la scène mondiale.
OpenAI s'est prononcée clairement en faveur d'une régulation appropriée de l'IA, mais souhaite que la question soit traitée au niveau fédéral. Selon l'entreprise, seule la législation fédérale peut fournir une approche plus efficace des solutions juridiques aux dangers des technologies de pointe en IA et un régime juridique unifié dans tout le pays.
Anthropic adopte une position différente sur la législation californienne sur l'IA
D'autre part, Anthropic, concurrent d'OpenAI, a accueilli favorablement le SB 1047 mais a proposé quelques modifications. Le PDG de l'entreprise, Dario Amodei, qui a travaillé chez OpenAI, a été plus modéré dans son opinion sur le projet de loi. Amodei a écrit une lettre au gouverneur Newsom indiquant que bien que le projet de loi ait ses avantages, la version actuelle avec les amendements inclus est rentable et bénéfique.
L'approbation du projet de loi par Anthropic signale une approche distincte de la gouvernance de l'IA. L'approbation de l'entreprise, ainsi que les amendements proposés. Cela diffère de l'approche fédérale soutenue par OpenAI. L'avenir du SB 1047 affectera probablement les futurs débats aux niveaux étatique et fédéral.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
