Eine neue Welle von Chatbots auf dem Schwarzmarkt entsteht und floriert

Chatbots vom Schwarzmarkt gehören zu den neuesten Trends im KI-Sektor und florieren, da bösartige große Sprachmodelle (LLMs) ihren Schöpfern Geld einbringen.

Eine amerikanische Studie hat einen florierenden Schwarzmarkt für KI-Dienstleistungen aufgedeckt, auf dem nicht registrierte LLM-Absolventen mit dem Verkauf ihrer Dienste im Untergrund hohe Gewinne erzielen. Registrierte und öffentlich agierende Unternehmen wie OpenAI, Perplexity und andere große Konzerne, die ähnliche Dienstleistungen anbieten, unterliegen hingegen regulatorischen Vorgaben.

Die Untergrund-LLMs können Antivirenprogramme umgehen

Die Studie, die sich hauptsächlich auf Malla konzentrierte, ein Ökosystem, das davon lebt, legale LLMs und KI-Plattformen zum Zwecke des Gewinns zu verfälschen, untersuchte 212 Schwarzmarkt-LLMs, die zwischen April und Oktober 2023 auf Untergrundmärkten gelistet waren, und bewertete deren Eigenschaften.

Einer der Autoren, Zilong Lin von der Indiana University, sagte:

„Wir haben festgestellt, dass die meisten Mala-Dienste in Untergrundforen hauptsächlich dazu dienen, Gewinn zu erzielen.“

Die Studie ergab außerdem, dass einige Plattformen innerhalb von zwei Monaten bis zu 28.000 US-Dollar durch Abonnements und Käufe von Menschen verdienen, die den Beschränkungen der regulierten KI entfliehen wollen.

Einige, wie DarkGPT und EscapeGPT, sind lediglich Jailbreak-Derivate von ordnungsgemäß lizenzierten LLMs, die legal verwendet werden.

Eine separate Studie hat zudem gezeigt, dass diese illegalen LLMs für vielfältige Aufgaben genutzt werden können, beispielsweise zum Erstellen von Phishing-E-Mails. So konnten DarkGPT und EscapeGPT in fast 75 % der Fälle korrekten Code generieren, der jedoch von Antivirenprogrammen nicht erkannt wurde.

Ein anderes Modell, bekannt als WolfGPT, galt als „Kraftpaket“ für die Erstellung von Phishing-E-Mails und die Umgehung von Spam-Filtern.

Laut Andrew Hundt, einem Experten für Computerinnovationen an der Carnegie Mello University, sollte der boomende Untergrundmarkt für KI Anlass zur Sorge geben.

Er forderte eine gesetzliche Verpflichtung, die Unternehmen, die LLMs entwickeln, dazu zwingt, über robuste Systeme zu verfügen, die eine Vervielfältigung durch Personen mit böswilligen Absichten verhindern.

„Wir brauchen auch rechtliche Rahmenbedingungen, um sicherzustellen, dass Unternehmen, die diese Modelle entwickeln und Dienstleistungen anbieten, dies verantwortungsvoller tun und die Risiken durch böswillige Akteure mindern“, sagte Hundt.

Es ist entscheidend zu verstehen, wie Chatbots auf dem Schwarzmarkt funktionieren

Professor Xiaofeng Wang von der Indiana University, der an der Studie beteiligt war, sagte, es sei wichtig zu verstehen, wie diese Schwarzmarkt-LLMs funktionieren, damit die Lösungen spezifisch auf diedentProbleme zugeschnitten werden können.

Professor Wang fügte hinzu, dass die Manipulation dieser LLMs nicht zu vermeiden sei, was dem Sektor die Möglichkeit gebe,tronSchutzmechanismen zu entwickeln, um den potenziellen Schaden durch Cyberangriffe in all ihren Formen zu minimieren.

„Wir glauben, dass jetzt ein guter Zeitpunkt ist, um mit der Untersuchung dieser Dinge zu beginnen, denn wir wollen nicht warten, bis der größte Schaden bereits angerichtet ist.“

Professor Wang.

Laut dem Professor hat jede Technologie, einschließlich LLM-Studiengänge, zwei Seiten: eine gute und eine schlechte.

Cybersicherheitsexperten fordern die KI-Branche bereits jetzt auf, ihr Wettrennen zu verlangsamen und über die wachsenden Gefahren nachzudenken, die von der Verfälschung ihrer Technologie durch anonyme Internet-Communities ausgehen.

Ein Ende letzten Jahres in Forbes veröffentlichter Artikel plädierte für eine verantwortungsvolle Einführung neuer Ideen, insbesondere im Bereich der Masterstudiengänge (LLM). Er betonte zudem die Rolle der Regulierung bei der Förderung verantwortungsvoller KI-Innovationen und widerlegte damit das Missverständnis, Regulierung würde die Entwicklung hemmen.

„Entwickler und Anbieter von LLMs müssen einen hektischen Wettlauf um immer komplexere Modelle stoppen und stattdessen mit den Regulierungsbehörden an der Einführung von Rahmenbedingungen für die ethische Gestaltung und Nutzung generativer KI-Anwendungen arbeiten“, heißt es in einem Teil des Berichts.

Laut Fast Company entwickelt sich der Schwarzmarkt für KI aufgrund regulatorischer Schlupflöcher rasant zu einer Multimillionen-Dollar-Industrie und könnte umfangreiche Ressourcen für seine Eindämmung erfordern.