Neun Mathematiker werden bei der Veröffentlichung von OpenAIs über 100 mathematischen Ergebnissen beraten, können aber sein Tempo nicht verlangsamen
- Neun Mathematiker werden OpenAI dabei beraten, wie seine KI-generierten mathematischen Ergebnisse bewertet und veröffentlicht werden sollen.
- OpenAI sagt, die Gruppe habe keinen Einfluss darauf, wie schnell seine mathematische Forschung voranschreitet.
- Laut OpenAI hat sein internes Modell mehr als 100 langjährige offene Probleme gelöst, zusätzlich zu einer behaupteten Lösung der Navier-Stokes-Gleichungen.
OpenAI hat neun herausragende Mathematiker hinzugezogen, um bei der Präsentation und Veröffentlichung seiner KI-generierten mathematischen Ergebnisse zu beraten.
Das Unternehmen sagt, die Kommission habe kein Mitspracherecht über das Tempo seiner Forschung.
Das Institute for Advanced Study in Princeton beherbergt das unbezahlte Gremium
Das Gremium heißt Advisory Group on Mathematics and Artificial Intelligence. Es wird vom Institute for Advanced Study in Princeton, New Jersey, veranstaltet und ist online unter agmai.org zu finden.
Laut dem Blog-Beitrag von OpenAI post hilft die Gruppe dem Unternehmen, die Bedeutung neuer Ergebnisse einzuschätzen und zu koordinieren, wann und wie sie veröffentlicht werden. Sie wägt sie auch gegen die akademischen und beruflichen Normen des Feldes ab und berät, wie man arbeitende Mathematiker mit den Werkzeugen von OpenAI unterstützt.
Es „wird nicht dafür verantwortlich sein, uns darüber zu beraten, wie wir unser internes Fortschreiten in der Mathematik takten“, schrieb OpenAI.
OpenAI begann am 28. August mit dem Training eines neuen internen Modells. Das Unternehmen sagt, das Modell habe seitdem über 100 langjährige offene Probleme in den meisten Zweigen der Mathematik gelöst, zusammen mit einer behaupteten Lösung für das Navier-Stokes-Jahrhundertpreisproblem.
Die ersten Mitglieder sind François Charles von ENS-PSL, Camillo De Lellis von IAS und GSSI, Timothy Gowers vom Collège de France und Cambridge, Martin Hairer von EPFL und Imperial College London sowie Nikhil Srivastava von Berkeley und dem Simons Institute.
Die Liste wird durch Ulrike Tillmann von Oxford und INI, Ravi Vakil von Stanford, Edward Witten von IAS und Melanie Matchett Wood von Harvard vervollständigt.
Mehrere der Mitglieder haben eigene Fields-Medaillen. OpenAI kontaktierte einige von ihnen bezüglich eines externen Beratergremiums, sagte die Gruppe in einem Gastbeitrag im Blog des Mathematikers Terence Tao, und stattdessen bildeten sie eine unabhängige Gruppe und luden andere ein, beizutreten.
Mitglieder erhalten keine Zahlung von OpenAI und legen ihre eigene Mitgliedschaft fest.
Sie können unangeforderte Empfehlungen abgeben. Sie können öffentlich über die Auswirkungen des Unternehmens kommentieren.
Die Gruppe sagte, sie würde jedem KI-Labor denselben Rat anbieten, dessen Modelle das Feld neu gestalten könnten.
Obwohl wir Rat geben werden, haben wir keine Entscheidungsbefugnis bei irgendeinem KI-Unternehmen, und die Verantwortung für die Entscheidungen, die von jedem Unternehmen getroffen werden, liegt bei diesem Unternehmen.
Die Gruppe sagte auf ihrer Website. Ihre aktuelle Aufgabe besteht darin, OpenAI dabei zu beraten, wie die große Anzahl von Ergebnissen, die von seinem internen Modell erzeugt wurden, veröffentlicht werden soll.
25 Fields-Medaillengewinner warnten KI-Labore am September 11
Am 11. September starteten 25 Fields-Medaillengewinner einen offenen Brief mit dem Titel „A Severe Misalignment of AI in Mathematics“. KI-Labore, die um die Lösung berühmter Probleme wetteifern, setzen die intellektuelle Arbeit der Mathematiker Risiken aus, heißt es darin.
Die Erklärung listet nun 27 Medaillengewinner und mehr als 7.800 Unterstützer auf.
OpenAI zitierte den Brief direkt und stellte die Kritik als Grund dar, die Gemeinschaft sorgfältiger einzubeziehen.
Drei der neun Berater stehen auf der Erklärung. Martin Hairer unterzeichnete sie als Fields-Medaillengewinner, und Camillo De Lellis sowie Ravi Vakil unterstützten sie.
Die Beratergruppe kommt Wochen nach den mathematischen Ansprüchen von OpenAI, die umstritten wurden. Wie Cryptopolitan am 8. September berichtete, sagte OpenAI, ein internes Modell habe einen Blow-up in endlicher Zeit für die erzwungenen Navier-Stokes-Gleichungen gezeigt, der in der Lean-Beweisverifikationssprache verifiziert wurde.
Einige Tage zuvor wurden verwandte Blow-up-Ergebnisse vom NYU-Mathematiker Tristan Buckmaster und Anthropic-Forscher Levent Alpöge veröffentlicht. Aber Buckmaster sagte, er habe „sehr wenig menschliche Eingabe“ für OpenAIs Beweis erhalten, eine Darstellung, die seiner Aussage nach bei einem Anruf mit dem Unternehmen zusammenbrach.
Buckmaster schrieb, dass ein ganzes Team an dem Problem gearbeitet habe und einfachere Fälle, einschließlich Euler, zuerst kamen. Er fügte hinzu, dass der ihm gezeigte Prompt selbst durch das Prompting von Codex generiert wurde.
Sébastien Bubeck, der OpenAI-Forscher, der im Mittelpunkt des Austauschs stand, sagte, die Anschuldigungen seien „falsch und aufreizend“. Er bestritt, die Prompts oder Beweise der Mathematiker verwendet zu haben.
OpenAI hat gesagt, dass es nicht beabsichtigt, den Preis des Clay Mathematics Institute in Höhe von 1 Million $ zu beanspruchen.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Was ist die Advisory Group on Mathematics and Artificial Intelligence?
Eine unabhängige Kommission aus neun Mathematikern, die am Institute for Advanced Study angesiedelt ist und OpenAI bei der Veröffentlichung seiner KI-mathematischen Ergebnisse berät.
Kann die Gruppe OpenAIs mathematische Forschung verlangsamen?
Nein. OpenAI sagte, die Gruppe werde keine Beratung zum Tempo seines internen Fortschritts in der Mathematik geben.
Warum hat OpenAI diese Gruppe jetzt gegründet?
OpenAI behauptet, sein internes Modell habe die Navier-Stokes-Gleichungen und über 100 weitere offene Probleme gelöst; diese Ergebnisse lösten einen Protestbrief aus, der von 25 Fields-Medaillenträgern initiiert wurde.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Randa Moses
Randa Moses ist Redakteurin und Reporterin bei Cryptopolitan, wo sie über Technologie, KI, Robotik, Krypto, Betrug und Hacks berichtet. Sie arbeitet seit 2017 im Krypto-Bereich. Zuvor war sie bei Forward Protocol, AmaZix und Cryptosomniac tätig. Randa besitzt einen Abschluss in Elektrotechnik und Elektronik der University of Bradford.
