Les meilleures analyses crypto directement dans votre boîte mail.
- Jan Leike, responsable de l'équipe Superalignment chez OpenAI, a soulevé de sérieuses questions concernant l'évolution des pratiques de sécurité de l'entreprise.
- Leike a quitté l'entreprise quelques heures après le départ du cofondateur Ilya Sutskever.
- L'équipe Superalignment aurait été démantelée par l'entreprise, ce qui exposerait ses modèles d'IA à un examen moins approfondi.
Après le départ du cofondateur Ilya Sutskever de l'entreprise en début de semaine, Jan Leike, chercheur renommé, a annoncé vendredi matin que « la culture et les processus de sécurité sont passés au second plan par rapport aux produits à la mode » au sein de l'entreprise.
Jan Leike a déclaré dans une série de messages publiés sur la plateforme de médias sociaux X qu'il avait rejoint la start-up basée à San Francisco parce qu'il pensait que ce serait le meilleur endroit pour mener des recherches en intelligence artificielle.
Leike dirigeait l'équipe « Superalignement » d'OpenAI avec un cofondateur qui a également démissionné cette semaine.
L'équipe Superalignment d'OpenAI n'est plus intacte
L'équipe Superalignment de Leike a été créée en juillet dernier chez OpenAI pour relever les principaux défis techniques liés au déploiement de mesures de sécurité, alors que l'entreprise développe une IA capable de raisonner comme un humain.
Les déclarations de Leike font suite à un article de WIRED Chich affirmant qu'OpenAI avait complètement dissous l'équipe Superslignment, chargée de traiter les risques à long terme associés à l'IA.
À lire également : Ilya Sutskever, directeur scientifique d’Openai, fait ses adieux
Sutskever et Leike n'étaient pas les seuls employés à avoir quitté l'entreprise. Au moins cinq autres employés d'OpenAI, parmi les plus soucieux de la sécurité, ont quitté l'entreprise ou ont été licenciés depuis novembre dernier, lorsque le conseil d'administration a tenté de destituer le PDG Sam Altman, avant de le voir manœuvrer habilement pour reprendre son poste.
OpenAI devrait devenir une entreprise d'IA axée sur la sécurité
Leike a souligné l'aspect le plus controversé de cette technologie sur plusieurs plateformes — une vision prospective de robots aussi intelligents que les humains ou du moins capables d'effectuer de nombreuses tâches tout aussi bien — écrivant qu'OpenAI doit se transformer en une entreprise d'IA générale axée sur la sécurité.
En réponse aux publications de Leike, Sam Altman, PDG d'Open AI, a exprimé sa gratitude pour les services rendus par Leike à l'entreprise et a fait part de sa tristesse face à son départ.
Altman a déclaré dans un message publié sur X que Leike avait raison et qu'il publierait un long article sur le sujet dans les prochains jours. Il a également déclaré que :
« Il nous reste encore beaucoup à faire ; nous sommes déterminés à le faire. »
Leike a quitté l'équipe de superalignement d'OpenAI et John Schulman, cofondateur de l'entreprise, a pris la relève.
Mais l'équipe manque de cohésion. De plus, Schulman est déjà surchargé de travail, notamment pour garantir la sécurité des produits existants d'OpenAI. Dans quelle mesure OpenAI peut-elle encore s'investir dans des projets de sécurité plus ambitieux et tournés vers l'avenir ? Il semble qu'il n'y ait pas de réponse satisfaisante à cette question.
Jan Leike a des divergences idéologiques avec la direction
Comme son nom l'indique, OpenAI, qui avait initialement pour vocation de partager librement ses modèles avec le public, affirme désormais que rendre ces modèles aussi puissants accessibles à tous pourrait être préjudiciable ; ils sont donc devenus une propriété intellectuelle.
Dans un message, Leike a déclaré qu'il était en désaccord avec la direction d'OpenAI concernant les priorités qu'elle imposait à l'entreprise depuis un certain temps, jusqu'à ce qu'elle atteigne finalement un point de non-retour.
J'ai rejoint OpenAI car je pensais que ce serait le meilleur endroit au monde pour mener ces recherches.
— Jan Leike (@janleike) 17 mai 2024
Cependant, je suis en désaccord avec la direction d'OpenAI concernant les priorités fondamentales de l'entreprise depuis un certain temps, jusqu'à ce que nous atteignions finalement un point de rupture.
Le dernier jour de Leike au sein de l'entreprise était jeudi, après quoi il a démissionné sans ménagement, sans faire d'adieu chaleureux ni manifester la moindre confiance envers la direction d'OpenAI. Sur X, il a simplement écrit : « J'ai démissionné. »
Un partisan de Leike a commenté en se disant ravi que Leike ne fasse plus partie de leur groupe. Les idéologies woke sont incompatibles avec l'humanité. Plus elles s'en éloignent, plus elles se retrouvent intégrées à l'IA.
À lire également : OpennAI sécurise le contenu Reddit pour améliorer ChatGPT
Le participant a indiqué qu'il exigerait également une defide l'alignement de la part de tous les aligneurs. Il faisait référence à une recommandation dans laquelle Leike avait demandé à d'autres employés d'OpenAI s'ils étaient capables d'impulser le changement culturel nécessaire au sein de l'entreprise.
La principale entreprise mondiale d'IA semble changer de cap concernant les mesures de sécurité souvent mises en avant par les experts, et le départ de plusieurs experts de haut niveau en matière de sécurité le confirme probablement.
Reportage Cryptopolitan par Aamir Sheikh
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement : Les informations fournies ne constituent pas un conseil en investissement. CryptopolitanCryptopolitan.com toute responsabilité quant aux investissements réalisés sur la base des informations présentées sur cette page. Nous voustronrecommandons vivement d’effectuer vosdent et/ou de consulter un professionnel qualifié avant toute décision d’investissement.
Aamir Sheikh
Aamir est un journaliste spécialisé dans les technologies, fort de près de six ans d'expérience dans les secteurs des cryptomonnaies et des technologies. Diplômé de l'université MAJ avec un MBA en finance et marketing, il travaille actuellement pour Cryptopolitan, où il couvre l'actualité des marchés des cryptomonnaies et propose des prévisions de prix.
- Quelles cryptomonnaies peuvent vous faire gagner de l'argent ?
- Comment renforcer la sécurité de votre portefeuille (et lesquels valent vraiment la peine d'être utilisés)
- Stratégies d'investissement peu connues utilisées par les professionnels
- Comment débuter en investissement crypto (quelles plateformes d'échange utiliser, quelles cryptomonnaies acheter, etc.)