Fox8-Botnet entlarvt 1.000 KI-Bots auf X, erstellt Fake-Accounts durch Diebstahl von Selfies

In einer schockierenden Enthüllung haben Forscher des Observatory on Social Media der Indiana University ein beunruhigendes Bot-Problem auf X (ehemals Twitter) aufgedeckt. Eine kürzliche Studie eines Studenten-Lehrer-Teams legte ein Netzwerk von über 1.000 künstlich-intelligenz-gestützten Konten offen, das maschinengenerierte Inhalte erstellt und Selfies stiehlt, um gefälschte Identitäten zu konstruieren. Diese beunruhigende Entdeckung hat Bedenken hinsichtlich des Ausmaßes der Desinformation und des potenziellen Schadens geweckt, den diese Bots der Plattform und ihren Nutzern zufügen könnten.

Das Fox8-Botnet und seine Rolle bei der Schaffung eines Spielplatzes für Desinformation

Das Forschungsteam, angeführt von den Wissenschaftlern Kai-Cheng Yang und Filippo Menczer, identifizierte ein weit verzweigtes Netzwerk gefälschter Konten auf X, das als „Fox8“-Botnet bezeichnet wird. Dieses Netzwerk setzt fortschrittliche Sprachmodelle, einschließlich ChatGPT, ein, um Inhalte zu generieren, die verdächtige Websites bewerben und schädliche Narrative verbreiten. Über die Erstellung gefälschter Identitäten hinaus wurde beobachtet, wie diese Bots unbedarfte Personen dazu verleiten, in betrügerische Kryptowährungen zu investieren. Noch besorgniserregender ist ihr angeblicher involvement beim Diebstahl aus bestehenden Krypto-Wallets, was ein Maß an Sophistikation offenbart, das zu erheblichen finanziellen Verlusten führen könnte.

Krypto-Verbindungen und die Verbreitung von Täuschung

Das Fox8-Botnet zielt strategisch auf Hashtags ab, die sich auf Kryptowährungen beziehen, wie #bitcoin, #crypto und #web3, um die Sichtbarkeit ihrer Beiträge zu erhöhen. Diese Beiträge interagieren oft mit von Menschen betriebenen Konten, die sich auf Krypto konzentrieren, wie das bekannte ForbesCrypto (@ForbesCrypto) und die blockchain-zentrierte Nachrichtenwebsite Watcher Guru (@WatcherGuru). Durch die Interaktion mit legitimen Konten erzeugen diese Bots eine Illusion von Authentizität und Glaubwürdigkeit, was es Nutzern noch schwieriger macht, zwischen echten Inhalten und böswilligen Absichten zu unterscheiden.

Jenseits von Krypto und eine vielschichtige Bedrohung

Die bösartigen Aktivitäten des Fox8-Botnets erstrecken sich über den Bereich der Kryptowährungen hinaus. Die Forschung von Yang und Menczer hob hervor, dass diese Bot-Konten dafür verantwortlich sind, Online-Konversationen zu verfälschen und Desinformation in verschiedenen Kontexten zu verbreiten, einschließlich kritischer Bereiche wie Wahlen und öffentliche Gesundheitskrisen. Diese Verstärkung von Desinformation stellt ein erhebliches Risiko für den öffentlichen Diskurs und Entscheidungsprozesse dar, das dringende Aufmerksamkeit und Gegenmaßnahmen erfordert.

Ein neues Maß an Glaubwürdigkeit

Im Gegensatz zu den leicht erkennbaren Botnets der Vergangenheit setzt das Fox8-Netzwerk ausgefeiltere Taktiken ein, um überzeugend menschlich zu wirken. Diese Bots stehlen Bilder von echten Nutzern und interagieren miteinander, einschließlich Retweets und Antworten. Darüber hinaus pflegen sie Profile mit Beschreibungen, Followern und Tweet-Anzahlen, was ihre scheinbare Authentizität weiter erhöht. Dieses Detailniveau in ihren Profilen und Interaktionen macht es für Nutzer schwierig, sie als betrügerische Konten zu identifizieren.

Die ChatGPT-Revolution und ihre dunkle Ausbeutung

Die Studie hebt die bedeutende Rolle fortschrittlicher Sprachmodelle wie ChatGPT bei der Ermöglichung der Operationen von Botnets wie Fox8 hervor. Diese Sprachmodelle haben die Fähigkeiten dieser Bots exponentiell verbessert und es ihnen ermöglicht, Inhalte zu verfassen, die zunehmend schwer von menschlich generierten Inhalten zu unterscheiden sind. Die Verfügbarkeit kostenloser KI-APIs hat diesen Prozess beschleunigt und es böswilligen Akteuren ermöglicht, diese Tools auszunutzen, um unbedarfte Nutzer zu täuschen.

Die Erosion der Erkennungsmethoden

Traditionell konnten Forscher Botnets anhand unnatürlicher Sprachverwendung und unüberzeugender Inhalte identifizieren. Der Aufstieg von ChatGPT und ähnlichen Technologien hat jedoch die Wirksamkeit herkömmlicher Erkennungsmethoden untergraben. Selbst bei der Anwendung modernster Inhaltserkennungssysteme hatte das Forschungsteam Schwierigkeiten, zwischen menschlich generierten und KI-generierten Inhalten innerhalb des Fox8-Botnets zu unterscheiden.

Dringende Aufrufe zum Handeln

Die alarmierenden Ergebnisse dieser Studie unterstreichen die Dringlichkeit, der wachsenden Bedrohung durch KI-gestützte Botnets zu begegnen. Menczer betont, dass der aktuelle Mangel an effektiven Methoden zur Erkennung KI-generierter Inhalte erhebliche Ressourcen für die Entwicklung angemessener Gegenmaßnahmen und Vorschriften erforderlich macht. Ohne solche Eingriffe bleibt das Potenzial für Manipulation, Desinformation und finanzielle Ausbeutung ungezügelt.

Die unsichtbare Bedrohung und was darunter liegt

Obwohl die Forscher die spezifischen Handles, die mit dem Fox8-Botnet verbunden sind, nicht offengelegt haben, entdeckten sie deren Existenz durch selbst enthüllende Tweets, die versehentlich von diesen Konten gepostet wurden. Dies führte sie dazu, auf X nach der Phrase „as an AI language model“ zu suchen, wobei sie über 12.000 Tweets von rund 9.000 einzigartigen Konten identifizierten. Obwohl nicht alle diese Konten als LLM-gestützte Bots bestätigt sind, schätzt die Studie, dass ein erheblicher Teil an der Verbreitung KI-generierter Inhalte beteiligt ist.

Die Forschung der Indiana University wirft Licht auf eine wachsende Bedrohung im digitalen Raum: KI-gestützte Botnets, die Identitäten stehlen, Desinformation verbreiten und Nutzer für bösartige Zwecke manipulieren. Die Studie unterstreicht die Dringlichkeit, praktische Lösungen für diese sich entwickelnden Bedrohungen zu finden. Während die Technologie fortschreitet, wird der Kampf gegen KI-generierte Täuschung Innovation, Zusammenarbeit und Wachsamkeit erfordern, um die Integrität von Online-Räumen zu wahren.