- Illegale LLMs können ihren Erstellern innerhalb von zwei Monaten bis zu 28.000 US-Dollar einbringen.
- Diese sind „Kraftpakete“ beim Erstellen von Phishing-E-Mails sowie beim Umgehen von Spam-Filtern und Antivirensoftware.
- Laut einer Studie manipulieren diese auch legal registrierte LLMs.
Schwarzmarkt-Chatbots sind zu einem der neuesten Trends im KI-Sektor geworden und gedeihen, da bösartige Large Language Models (LLMs) ihren Erstellern Geld einbringen.
Eine amerikanische Studie hat ergeben, dass es einen blühenden Schwarzmarkt für KI gibt, auf dem nicht registrierte LLMs (Large Language Models) im Untergrund mit dem Verkauf ihrer Dienste viel Geld verdienen. Registrierte und öffentlich zugängliche Unternehmen wie OpenAI, Perplexity und andere große Konzerne, die dieselben Dienste anbieten, befolgen regulatorische Vorschriften.
Die unterirdischen LLMs können Antivirenprogramme umgehen
Die Studie, die sich hauptsächlich auf Malla konzentrierte – ein Ökosystem, das vom Missbrauch legaler LLMs und KI-Plattformen zum Profit lebt – untersuchte 212 Schwarzmarkt-LLMs, die zwischen April und Oktober 2023 auf unterirdischen Marktplätzen gelistet waren, und bewertete ihre Attribute.
Einer der Autoren, Zilong Lin von der Indiana University, sagte:
„Wir haben festgestellt, dass die meisten der bösen Dienste auf unterirdischen Foren hauptsächlich dem Gewinn dienen.“
Die Studie ergab auch, dass einige Plattformen in zwei Monaten bis zu 28.000 $ aus Abonnements und Käufen von Personen erzielen, die den Zwängen regulierter KI entkommen möchten.
Einige, wie DarkGPT und EscapeGPT, sind lediglich Jailbreak-Ableitungen ordnungsgemäß lizenzierter LLMs, die legal genutzt werden.
Eine separate Studie hat ebenfalls gezeigt, dass diese illegitimen LLMs für viele Aufgaben genutzt werden können, wie zum Beispiel das Erstellen von Phishing-E-Mails. Zum Beispiel konnten DarkGPT und EscapeGPT in fast 75 % der Fälle korrekte Codes erstellen, die von Antivirenprogrammen jedoch nicht erkannt wurden.
Ein weiteres Modell namens WolfGPT wurde als „Leistungsträger“ für das Erstellen von Phishing-E-Mails und das Umgehen von Spam-Filtern angesehen.
Laut Andrew Hundt, einem Experten für Computing-Innovation an der Carnegie Mellon University, sollte der boomende unterirdische KI-Markt Anlass zur Sorge sein.
Er forderte eine gesetzliche Anforderung, die Unternehmen, die LLMs entwickeln, verpflichtet, robuste Systeme zu haben, die eine Replikation durch Personen mit bösartigen Absichten verhindern.
„Wir benötigen auch rechtliche Rahmenbedingungen, um sicherzustellen, dass Unternehmen, die diese Modelle erstellen und Dienste bereitstellen, dies verantwortungsvoller tun, um die Risiken, die von böswilligen Akteuren ausgehen, zu mindern“, sagte Hundt.
Das Verständnis, wie Schwarzmarkt-Chatbots funktionieren, ist entscheidend
Professor Xiaofeng Wang von der Indiana University, der Teil der Studie war, sagte, es sei wichtig zu verstehen, wie diese Schwarzmarkt-LLMs funktionieren, damit die Lösungen spezifisch auf die identifizierten Probleme zugeschnitten sind.
Professor Wang fügte hinzu, dass die Manipulation dieser LLMs nicht vermieden werden könne, was dem Sektor Spielraum für die Entwicklung starker Schutzvorkehrungen bietet, um potenzielle Schäden, die durch Cyberangriffe in allen Formen verursacht werden, zu minimieren.
„Wir glauben, dass jetzt ein guter Zeitpunkt ist, um diese zu studieren, weil wir nicht warten wollen, bis der große Schaden bereits angerichtet wurde.“
Professor Wang.
Laut dem Professor kommt jede Technologie, einschließlich LLMs, in zwei Varianten: die gute und die schlechte Seite.
Cybersicherheitsexperten fordern die KI-Branche bereits auf, im Wettlauf Tempo herauszunehmen und über die wachsenden Gefahren nachzudenken, dass ihre Technologie von anonymen Internetgemeinschaften verfälscht wird.
Ein Forbes-Artikel, der Ende letzten Jahres veröffentlicht wurde, forderte eine verantwortungsvolle Einführung neuer Ideen, insbesondere im Bereich der LLMs. Er betonte auch die Rolle der Regulierung bei der Förderung verantwortungsvoller KI-Innovationen, im Gegensatz zur falschen Annahme, dass Regulierung die Entwicklung hemmt.
„Entwickler und Anbieter von LLMs sollten eine panikartige Rüstungsspirale, die darauf abzielt, immer komplexere Modelle zu produzieren, stoppen und stattdessen mit Regulierungsbehörden an der Einführung von Rahmenwerken für das ethische Design und die Nutzung von generativer KI arbeiten“, heißt es in einem Teil des Berichts.
Nun wächst der KI-Schwarzmarkt aufgrund regulatorischer Lücken schnell zu einer multimillionenschweren Industrie an und könnte umfangreiche Ressourcen zur Eindämmung erfordern, so Fast Company.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Enacy Mapakame
Enacy Mapakame ist Journalistin mit über 10 Jahren Erfahrung in den Bereichen Wirtschafts- und Finanznachrichten. Sie berichtet über Kapitalmärkte und aufstrebende Technologien – das Metaverse, KI und Kryptowährungen. Enacy besitzt einen Bachelor of Science (BSc) im Fachbereich Medien- und Gesellschaftsstudien mit Auszeichnung.
