Chinas Forscher verstoßen gegen die Nutzungsbedingungen von Meta, um ein KI-Tool für militärische Zwecke zu entwickeln

Chinesische Forschungseinrichtungen mit Verbindungen zur Volksbefreiungsarmee haben das Llama-Modell genutzt, um ein KI-Tool für militärische Anwendungen zu entwickeln. Drei wissenschaftliche Artikel zu dieser Entwicklung wurden veröffentlicht und von Reuters in einem neuen Bericht analysiert. 

Sechs Forscher aus drei chinesischen Institutionen haben die Entwicklung eines KI-Tools ausgearbeitet, das Informationen verarbeitet und sammelt und bei operativen Entscheidungen hilft.

China hat Metas Llama 13B modifiziert

Dieses Tool nennen sie „ChatBIT“. Es wurde durch die Feinabstimmung eines früheren großen Sprachmodells (Llama 13B LLM) entwickelt.

Die Forscher erwähnten, dass ChatBIT „für Dialog- und Frage-Antwort-Aufgaben im militärischen Bereich optimiert“ sei und es gelang, mehrere KI-Modelle zu übertreffen, die fast so leistungsfähig wie ChatGPT-4 waren.

Laut Reuters behaupteten die Wissenschaftler in einer der Studien ausdrücklich, dass ChatBIT etwa 90 % der Leistung von GPT-4 erbringt, erklärten aber nicht, wie sie die Leistung getestet haben oder gaben zumindest Details darüber an, ob das Modell zuvor in der Praxis eingesetzt wurde.

„Es ist das erste Mal, dass es substanzielle Beweise dafür gibt, dass Experten des chinesischen Militärs der Volksbefreiungsarmeematicdie Möglichkeiten von Open-Source-LLMs, insbesondere von Meta, für militärische Zwecke erforscht und versucht haben, diese zu nutzen.“

Sunny Cheung, Associate Fellow der Jamestown Foundation.

Die Jamestown Foundation ist eine in Washington DC ansässige Denkfabrik, die sich mit Chinas neuen und angewandten Technologien, einschließlich KI, befasst.

Meta bekräftigte, dass dies unbedeutend sei

Meta hat zwar Vorkehrungen getroffen, die die Verwendung seiner KI-Modelle für militärische, kriegerische und nukleare Anwendungen verhindern sollen, kann diese Vorkehrungen aber praktisch nicht durchsetzen, da die Modelle öffentlich zugänglich sind.

In einer Stellungnahme gab Meta außerdem bekannt, dass dies unbedeutend sei, da die chinesischen Forscher eine ältere Version des Llama-Modells, genauer gesagt Llama 13B LLM, verwendeten. Der Social-Media-Riese trainiert bereits Llama 4.

Laut Tom's Guidestellten andere Forscher auch fest, dass das chinesische Militärmodell ChatBIT nur 100.000 militärische Dialogaufzeichnungen nutzte, was angesichts der Tatsache, dass die neuesten Versionen mit Billionen von Datenpunkten trainiert werden, nur ein Tropfen auf den heißen Stein ist.

Die Verwendung von Open-Source-KI-Modellen könnte es den Chinesen jedoch potenziell ermöglichen, zu den neuesten Modellen aufzuschließen, die amerikanische Technologieunternehmen veröffentlicht haben.

Während einige Experten die Machbarkeit eines kleinen Datensatzes für das militärische KI-Training in Frage gestellt haben, könnte die Entwicklung von ChatBIT ein Machbarkeitsnachweis sein, da die Militärinstitute planen, etwas Umfassenderes zu schaffen.

Diese Entwicklung kommt zu einem Zeitpunkt, an dem die USA bereits besorgt sind, dass China sich durch die Verfügbarkeit von Open-Source-Modellen einen militärischen Vorteil verschaffen könnte.

Daher haben die USA Exportkontrollen eingeführt, die China den Zugang zu ihren hochmodernen KI-Modellen und GPUs verwehren. Einige Abgeordnete drängen auch auf ein vollständiges Verbot, das den Zugriff auf Open-Source-Modelle einschließt.