Neuf mathématiciens conseilleront sur la publication des plus de 100 résultats mathématiques d'OpenAI mais ne pourront pas en ralentir le rythme

OpenAI a fait appel à neuf mathématiciens éminents pour conseiller sur la manière dont elle présente et publie ses résultats mathématiques générés par IA.

L'entreprise déclare que le panel n'a aucun pouvoir sur le rythme de sa recherche.

L'Institut d'études avancées de Princeton accueille le panel non rémunéré

Le panel s'appelle le Groupe consultatif sur les mathématiques et l'intelligence artificielle. Il est hébergé à l'Institut d'études avancées de Princeton, dans le New Jersey, et est disponible en ligne à l'adresse agmai.org.

Selon le blog d'OpenAI post, le groupe aide l'entreprise à évaluer l'importance des nouveaux résultats et à coordonner leur publication et leur diffusion. Il les met également en balance avec les normes académiques et professionnelles du domaine, et conseille sur la manière de servir les mathématiciens praticiens avec les outils d'OpenAI.

Il « ne sera pas responsable de nous conseiller sur la manière de rythmer nos progrès internes en mathématiques », a écrit OpenAI.

OpenAI a commencé à entraîner un nouveau modèle interne le 28 août. L'entreprise déclare que le modèle a depuis résolu plus de 100 problèmes ouverts de longue date dans la plupart des branches des mathématiques, ainsi qu'une solution revendiquée au Problème du Prix Millénaire de Navier-Stokes.

Les membres initiaux sont François Charles de l'ENS-PSL, Camillo De Lellis de l'IAS et du GSSI, Timothy Gowers du Collège de France et de Cambridge, Martin Hairer de l'EPFL et de l'Imperial College London, et Nikhil Srivastava de Berkeley et de l'Institut Simons.

La liste est complétée par Ulrike Tillmann d'Oxford et de l'INI, Ravi Vakil de Stanford, Edward Witten de l'IAS et Melanie Matchett Wood de Harvard.

Plusieurs membres possèdent eux-mêmes des médailles Fields. OpenAI a contacté certains d'entre eux au sujet d'un conseil consultatif externe, a indiqué le groupe dans un article invité sur le blog du mathématicien Terence Tao, et ils ont plutôt formé un groupe indépendant et invité d'autres à les rejoindre.

Les membres ne reçoivent aucun paiement d'OpenAI, et ils fixent eux-mêmes leur adhésion.

Ils peuvent émettre des recommandations non sollicitées. Ils peuvent commenter publiquement l'impact de l'entreprise.

Le groupe a déclaré qu'il offrirait le même conseil à tout laboratoire d'IA dont les modèles pourraient remodeler le domaine.

Bien que nous donnions des conseils, nous n'avons aucun pouvoir de décision dans aucune entreprise d'IA, et la responsabilité des décisions prises par toute entreprise reposerait sur cette entreprise.

Le groupe l'a déclaré sur son site web. Sa tâche actuelle est de conseiller OpenAI sur la manière de publier le grand lot de résultats produits par son modèle interne.

25 lauréats de la médaille Fields mettent en garde les laboratoires d'IA le 11

Le 11 septembre, 25 lauréats de la médaille Fields ont lancé une lettre ouverte intitulée « Un désalignement sévère de l'IA en mathématiques ». La course des laboratoires d'IA pour résoudre des problèmes célèbres met au risque le travail intellectuel des mathématiciens, y est-il déclaré.

La déclaration répertorie désormais 27 lauréats et plus de 7 800 signataires.

OpenAI a cité la lettre directement, présentant la critique comme une raison d'engager la communauté de manière plus réfléchie.

Trois des neuf conseillers figurent sur la déclaration. Martin Hairer l'a signée en tant que lauréat de la médaille Fields, et Camillo De Lellis et Ravi Vakil l'ont approuvée.

Le groupe consultatif arrive quelques semaines après que les allégations mathématiques d'OpenAI sont devenues controversées. Comme Cryptopolitan l'a rapporté le 8 septembre, OpenAI a déclaré qu'un modèle interne avait montré une explosion à temps fini pour les équations de Navier-Stokes forcées, vérifiée dans le langage de vérification de preuves Lean.

Quelques jours plus tôt, des résultats connexes sur l'explosion ont été publiés par le mathématicien de l'Université de New York Tristan Buckmaster et le chercheur d'Anthropic Levent Alpöge. Mais Buckmaster a déclaré qu'on lui avait dit que « très peu d'apport humain » était entré dans la preuve d'OpenAI, un récit qu'il dit s'être effondré lors d'un appel avec l'entreprise.

Buckmaster a écrit qu'une équipe entière avait travaillé sur le problème et que des cas plus faciles, y compris Euler, étaient venus en premier. Il a ajouté que l'invite qui lui a été montrée avait elle-même été générée par un prompt à Codex.

Sébastien Bubeck, le chercheur d'OpenAI qui était au centre de l'échange, a déclaré que les allégations étaient « fausses et incendiaires ». Il a nié avoir utilisé les invites ou les preuves des mathématiciens.

OpenAI a déclaré qu'elle n'avait pas l'intention de revendiquer le prix de 1 million de dollars de l'Institut de mathématiques Clay.