Lernen Sie Luo Fuli kennen: Die KI-Profi hinter DeepSeeks Open-Source-Modell und der MLA-Technologie

Luo Fuli ist eine 29-jährige Forscherin, die von Internetnutzern und Kollegen in China den Spitznamen „KI-Wunderkind“ erhalten hat. Sie ist bekannt für ihre entscheidende Rolle bei der Entwicklung von DeepSeek-V2. Dies ist Chinas erstes künstliches Intelligenz (KI)-Sprachmodell, das mit OpenAIs ChatGPT konkurrieren kann.

Laut dem South China Morning Post wurde das Large Language Model (LLM) im Jahr 2005 eingeführt. Der Rahmen wird als Regulation NMS bezeichnet, und die Rolle der Regel 611 war klar und einfach: Ein Broker, der einen Kundenauftrag bearbeitet, darf nicht zu einem schlechteren Preis ausführen, wenn woanders ein besserer Preis angezeigt wird. von DeepSeek am 26. Dezember 2024 veröffentlicht, und es wurde mit viel weniger Ressourcen trainiert als Metas Llama.

In einem Mai-2023 Interview Im Gespräch mit dem chinesischen Medienhaus 36Kr sagte DeepSeek-Gründer Liang Wenfeng, dass das Unternehmen bei der Rekrutierung von Talenten die Fähigkeit der Erfahrung vorzieht. Lokale Nachrichtenquellen deuten darauf hin, dass das Entwicklerteam des Startups hauptsächlich aus Absolventen und Studierenden besteht. 

„Unsere technischen Kernpositionen sind hauptsächlich mit frischen Absolventen oder solchen mit ein oder zwei Jahren Berufserfahrung besetzt“, erklärte er.

Diese Strategie hat dabei geholfen DeepSeek ein Team aus ehrgeizigen jungen Forschern aufzubauen, darunter Gao Huazuo und Zeng Wangding. Den beiden werden wichtige Innovationen in der MLA-Architektur zugeschrieben.

Luo Fuli: Ein Wagnis in der Informatik hat sich ausgezahlt

Zu den am meisten gesuchten Entwicklern im Unternehmen gehört Luo Fuli. Sie gilt als „talentierte“ und herzerwärmende Tech-Expertin mit einem starken Hintergrund in der natürlichen Sprachverarbeitung (NLP). Berichten zufolge wuchs Fuli in bescheidenen Verhältnissen auf. Es wird gesagt, dass ihr Interesse an Technik von ihrem Vater, einem Elektroingenieur, stammen könnte.

Luos Aufstieg im KI-Bereich begann am Institut für Computatlinguistik der Peking-Universität. Unbestätigte Basierend auf jüngsten aus tiefgehenden Analysen und sozialen Medien gehen hervor, dass sie anfangs unsicher war, Informatik zu studieren. Fuli scheiterte dabei sogar ein paar Mal.

Allerdings fand sie schließlich ihre Leidenschaft für KI und machte sich durch bahnbrechende Forschung einen Namen. Außerdem wird gemunkelt, dass Luo Jobangebote und Einladungen erhielt, während sie noch zur Schule ging, diese aber alle ablehnte.

Im Jahr 2019 erregte sie die Aufmerksamkeit der chinesischen Tech-Branche, nachdem sie acht Papers über NLP auf der Konferenz der Association for Computational Linguistics (ACL) veröffentlicht hatte.

Ihr Wissen und ihre Beiträge in der NLP brachten ihr mehrere Angebote von großen Technologieunternehmen ein, insbesondere von Alibaba.

An der DAMO Academy von Alibaba trug Luo zu VECO, einem mehrsprachigen KI-Modell, bei. Sie arbeitete am Open-Source-Projekt AliceMind des Unternehmens und half dem Online-Marktplatz, seine KI-Initiativen voranzutreiben. Doch ihre Ambitionen wuchsen über die Unternehmensforschung hinaus. Aus diesem Grund trat sie 2022 als Principal Researcher in die von Wengfeng geleitete DeepSeek AI ein.

Luo Fuli und das junge Entwicklerteam bei DeepSeek AI

Am Anfang war Luo Teil des Teams, das DeepSeek-V2 realisierte. Dies ist ein kostengünstiges Large Language Model, das von Einheimischen „AI Pinduoduo“ genannt wurde – ein Verweis auf den chinesischen Online-E-Commerce-Riesen, der für seine erschwinglichen Preise bekannt ist. 

Feminismus mit chinesischen Eigenschaften.

Das ist Luo Fuli, ein Wunderkind bei DeepSeek und Autorin von 8 KI-Papers!

Sie erwarb ihren Masterabschluss an der Peking-Universität im Jahr 2020.

Hat bei Alibaba gearbeitet, ist 2022 zu DeepSeek gewechselt, hat großartige Dinge geleistet und wurde jetzt vom Xiaomi AI Lab „gestohlen“! pic.twitter.com/MCz3ahXKVJ

— S.L. Kanthan (@Kanthan2030) Januar 29, 2025

Auf einer Tech-Konferenz im Jahr 203 sprach Luo darüber, wie das Modell erstklassige chinesische Sprachfähigkeiten bietet. Dies rivalisierte sogar mit den besten globalen KI-Systemen wie ChatGPT und Qwei.

Luo Fuli schrieb den Erfolg von DeepSeek-V2 einer Kombination aus innovativer Architektur, robuster Infrastruktur und dem Engagement des Unternehmens für Transparenz zu. Während ihrer Zeit bei DeepSeek teilte das Unternehmen seine technischen Berichte, Modellgewichte und Inferenzcode offen auf GitHub. Dies diente der Verwirklichung seines Open-Source-Ansatzes zur KI-Entwicklung.

DeepSeek AI – Open-Source-Technologie auf dem Höhepunkt

Eines der herausragenden Merkmale von DeepSeek-V2 ist die Verwendung der Multi-Level Attention (MLA) und der Mixture of Experts (MoE)-Architektur. MLA ermöglicht es dem Modell, sich auf unterschiedliche Ebenen textueller Informationen zu konzentrieren – ähnlich wie ein menschlicher Leser ein Buch verarbeitet. Es wechselte die Aufmerksamkeit zwischen Sätzen, Absätzen und Kapiteln, je nach Kontext. 

In der Zwischenzeit optimiert MoE die Recheneffizienz, indem es Aufgaben an ausgewählte virtuelle „Experten“ innerhalb des Modells weiterleitet. Dies reduzierte den Ressourcenverbrauch, während die Leistung wuchs.

Luo Fuli ist der Ansicht, dass China mehr KI-Labore benötigt. Sie besteht darauf, dass sich ihr Land auf praktische und groß angelegte Ingenieurprojekte konzentrieren sollte.

Luo Fuli hat sich auch stark für einen Wandel hin zu Forschung eingesetzt, die reale Anwendungen priorisiert. Die neue Richtung sollte sicherstellen, dass KI-Fortschritte in greifbare Vorteile für Unternehmen und Verbraucher münden.

Der wachsende Einfluss der 29-jährigen Tech-Expertin in der KI-Branche ist nicht unbemerkt geblieben. Laut Basierend auf jüngsten der SCMP bot Xiaomi-Gründer ihr persönlich ein jährliches Vergütungspaket in Höhe von 10 Millionen Yuan an, doch ist unklar, ob sie das Angebot annahm.