ByteDance-Gründer lehnt Distillation ab, während die USA chinesische Labore ins Visier nehmen
Foto von Claudio Schwarz auf Unsplash.
- Der ByteDance-Gründer Zhang Yiming hat Distillation für die KI-Modelle des Unternehmens ausgeschlossen.
- Diese Haltung grenzt ByteDance von dem verdeckten Kopieren ab, das das Weiße Haus Moonshot AI vorwirft, um Kimi K3 zu entwickeln.
- Dies geschieht, während Washington Sanktionen wegen Distillation androht und die Lücke zwischen den US- und chinesischen Modellen schwindet.
Der Gründer von ByteDance, Zhang Yiming, hat erklärt, dass Distillation nicht zur Schulung der KI-Modelle des Unternehmens verwendet wird. Dies unterscheidet das Unternehmen von anderen chinesischen KI-Laboren, die beschuldigt wurden, die Distillationstechnik zu nutzen.
Dies geschieht, während US-Beamte chinesische Labore beschuldigen, die Technik zu nutzen, um die Lücke zu amerikanischen KI-Modellen zu schließen. Beamte in Washington sind so weit gegangen, Sanktionen zu drohen.
Zhang zieht eine Linie, während alle anderen Abkürzungen nehmen
The Information Bericht laut Zhang Yiming ist er vehement gegen Distillation beim Training der KI-Modelle des Unternehmens. Zhang hat sich entschieden, sich stärker in die KI-Ambitionen von ByteDance einzubringen und hat mit führenden Forschern getroffen, um erste Hand-Erfahrungen zu sammeln, während er die Rekrutierungsbemühungen des Unternehmens im Auge behält.
Dies ist wichtig, da dies zu einer kritischen Zeit im KI-Wettlauf geschieht. Noch im selben Monat haben US-Beamte die Auseinandersetzung mit chinesischen Laboren über die Praxis der Distillation verschärft. ByteDance besitzt auch Seedance, ein profitables und leistungsstarkes Video-Modell, eine seltene Leistung unter chinesischen KI-Produkten.
Warum Washington Distillation missbilligt
Distillation ist einfach das Training schwächerer KI-Modelle auf den Antworten stärkerer Modelle. Dies stellt sicher, dass die kleineren KI-Systeme lernen, das größere System zu imitieren. Distillation wird offen durchgeführt und ist ein routinemäßiger Teil der KI-Branche. Sie gilt als legal, wird jedoch meist in kleinem Maßstab durchgeführt.
Michael Kratsios, der als Direktor des White House Office of Science and Technology Policy dient, hat behauptet, dass Moonshot AI Anthropics Fable-Modell bei der Entwicklung von Kimi K3, seinem KI-System, distilliert habe.
Er erklärte dies in einem X-Post, dass Moonshot die Operation über eine eigens entwickelte interne Plattform durchführte, die Zugriffswege rotierte, um der Entdeckung zu entgehen, und NVIDIA GB300-Server in Thailand verwendete, die nach US-Exportvorschriften nicht nach China exportiert werden dürfen.
Anthropic soll 3,4 Millionen Claude-Gespräche mit Moonshot über gefälschte Konten zurückverfolgt haben. Moonshot hat auf diese Vorwürfe noch nicht reagiert.
Wie ByteDance Seedance, sein führendes KI-Modell, aufgebaut hat
ByteDance hatte seinen Wendepunkt auf völlig andere Weise. Das Unternehmen ging ein Risiko mit Seedance 2.0 ein, trotz interner Auseinandersetzungen über die hohen Kosten und den aggressiven Umfang des Modells. Das Video-Modell wurde entwickelt, um die Marke von 200 Milliarden Parametern zu überschreiten, wurde jedoch von einigen innerhalb des Unternehmens als zu ambitioniert angesehen.
Der Schritt ging auf, da die Bruttomarge der Modelle bei rund 70-90 % schwankte, nachdem das Unternehmen viel in GPUs, Daten und erstklassige Rekrutierung investiert hatte.
Washington sagt, die KI-Lücke schließt sich
Der Kampf um Distillation ist nur die Spitze des Eisbergs. Scott Bessent, der Finanzminister, hat angedeutet, Sanktionen zu verhängen, falls und wenn chinesische Unternehmen Distillation im industriellen Maßstab übernehmen. Ein parteiübergreifendes Gesetz im Repräsentantenhaus würde es erleichtern, Distillationsversuche zu identifizieren und zu sanktionieren.
Die Zahlen haben zu dringendem Handeln geführt. Trotz der Tatsache, dass die USA die Ausgaben für KI im Verhältnis 23 zu 1 gegenüber China übertreffen, hat die USA ihre Führung im KI-Wettlauf gegenüber China verloren. Laut dem Stanford Institute for Human-Centered AI sind die Top-Modelle beider Länder ziemlich gleich.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Häufig gestellte Fragen
Was sagte der Gründer von ByteDance über Distillation?
Zhang Yiming hat die Nutzung von Distillation zum Training der KI-Modelle von ByteDance ausgeschlossen und sich damit von der Technik distanziert, die im Zentrum des aktuellen Konflikts zwischen den USA und China steht.
Womit wird Moonshot AI beschuldigt?
Michael Kratsios, ein Beamter des Weißen Hauses, warf Moonshot AI vor, das Fable-Modell von Anthropic im industriellen Maßstab heimlich zu distillieren, um Kimi K3 zu erstellen. Dafür nutzte das Unternehmen ein eigens entwickeltes internes System und eingeschränkte NVIDIA GB300-Server in Thailand.
Wie konnte das Seedance-Modell von ByteDance ohne Distillation erfolgreich sein?
ByteDance investierte stark in Talente, Daten und GPUs und unterstützte den Ansatz des Forschers Zeng Yan, Seedance 2.0 auf über 200 Milliarden Parameter hochzuskalieren. Das Ergebnis ist ein Modell, das mittlerweile mehr als die Hälfte des Umsatzes aus dem Model-as-a-Service-Angebot von Volcano Engine generiert.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.
