Bots nutzen KI, um soziale Medien mit Desinformation zu fluten

Fast jeden Monat bietet das Internet eine neue und kreative Idee für ein „Schnell-reich-werden“-Schema, das keine Anstrengung erfordert. Viele haben KI-Tools übernommen, um ihre Arbeit zu verbessern und bessere Ergebnisse zu erzielen. Lokale Nachrichtensender stellen ihre Moderatoren ein, und das Außenministerium baut eine digitale Quelle auf. Im Gegensatz zur Übersetzung und Grammatikprüfung, die typisch und erwartet sind, wird KI zu einem integralen Bestandteil unseres Lebens und wird kaum noch mit KI in Verbindung gebracht.

Aufdeckung der KI-gestützten Bot-Farm

Es gibt eine weitere Nische: die Generierung vollständig ursprünglichen Materials von Grund auf. Die Erstellung erfordert nur zwanzig oder sogar so wenig wie eine Minute. Die gesamte KI-Plattform wird genutzt, um Videos zu produzieren (oder gestohlene Videos zu verarbeiten), Text- und Audiospuren zu schreiben, alles zu inszenieren und Beschreibungen sowie Hashtags für die Veröffentlichung in sozialen Netzwerken in nur wenigen Sekunden hinzuzufügen.

Somit werden soziale Netzwerke allmählich zu reinen KI-Mülltonnen, und solche Instrumente ermöglichen es Menschen, das Gefühl zu genießen, ein Werbevideo erstellt zu haben, das populär werden und Einnahmen generieren könnte. Oder sie verbreiten russische Propagandabotschaften, bis diese zur dominierenden Stimme in der Angelegenheit werden.

Sie werden sehen, wie KI zur Verbreitung der Botschaft einer Fake-Farm beiträgt, am Beispiel einer Bot-Farm mit 300 Kanälen, die KI nutzten, um Videos sowohl von russischen als auch von belarussischen YouTube-Kanälen zu verarbeiten und zu generieren. Hier ist Anastasiia Kozhevnikova, ein lokales Mädchen aus Mariupol, das jetzt eine bekannte russische YouTuberin ist. Obwohl sie nur 190.000 Abonnenten auf ihrem YouTube-Kanal hat, ist sie ein gutes Beispiel dafür, wie der intelligente Einsatz des Internet einer Person, die in ihrem Heimatland unterdrückt wird, eine Stimme geben kann. Sie genießt einen guten Ruf als Verbreiterin der russischen Propagandamythen „Russland als Retter“ und des Aufstiegs Mariupols aus der Zerstörung.

Wenn man jedoch ihr Profil verlässt, sticht die Abwesenheit von Informationen zum diskutierten Thema ins Auge. Sie erforscht, wer sie ist, und spricht über das, worüber sie immer vloggt. Wie weiß der Zuschauer, dass es in der Community ähnliche Netzwerke gibt? Was, wenn es sich um einen Link zum YouTube-Kanal eines super-populären Social-Media-Stars handelt? Karten mit Bildern der Mission der Organisation sind durchaus möglich. Vielleicht sogar noch großzügigere Kartenanzahlen. Im Gegensatz dazu fehlt es an einer kurzweiligen Ausdrucksweise mit einem Aufruf zum Abonnieren. In diesem Zusammenhang kann jeder Kanal spezialisiert sein. Allerdings habe ich herausgefunden, dass ein großer Teil solcher Kanäle dies bereits hat.

Die heimische Ausbreitung von KI-Desinformation

Ähnlich generierte die ausgefeilte Google-Suche 298 TikTok-Kanal-Identifikationsnachrichten mit derselben Beschreibung. Es kommt vor, dass es Ähnlichkeiten in ihrem Leben gibt. So haben sie begonnen, eine Kampagne innerhalb der russischsprachigen künstlichen TikTok-Farm zu scannen und auszuwählen. Das Einzige, was sie unterscheidet, ist das Thema, auf das sie sich konzentrieren. 

Ob man nach „russischer Propaganda“ oder „imperialen Verschwörungstheorien“ sucht, die Auswahl ist enorm. Gleichzeitig erzählen Rezepte, Tipps für Mechaniker, Gearhead-Videos, Cartoons für Kinder, Blogger usw. den Menschen von Friedhöfen in Russland oder finden Schätze in den Trümmern lokaler Schrottplätze. Sie könnten nur in die Kategorie „Offline-Stars“ eingeordnet werden, da letztere die einzigen Kartons sind, denen wir begegnen. Es ist erwähnenswert, dass die Medienaktivität in Russland von März 2022 bis vor Kurzem eingeschränkt war. Zum Beispiel wurde TikTok, eines der beliebtesten Netzwerke, als illegal betrachtet.

Keine Informationen über die Autoren auf den Farmen der entdeckten Stationen deuten erneut darauf hin, dass hier Piraterie vorliegt. Bis Ende Mai werden Sie die Zahlen gesehen haben, wahrscheinlich mehr als 10 Millionen. Likes und sogar noch mehr Aufrufe auf dem Kanal existieren bereits seit sechs Monaten. Je tiefer man jedoch in diese virtuelle Fantasiewelt eindringt, desto mehr gefälschte und nicht existierende Inhalte werden reichlich vorhanden sein. In diesem Fall wird Russland es in seinem Informationskrieg einsetzen. Russische Bots und Bot-Farmen replizieren und verdauen beliebte Botschaften in sozialen Medien, was sie für soziale Medien-Algorithmen leichter erkennbar macht.

Die Nutzung von KI-Funktionen für soziale Plattformen wird eine größere Herausforderung darstellen. Sie werden den Namen der Gegenbewegung mit dem Slogan „Fliegen im toten Raum des Internets“ zur Schau stellen, der besagt, dass es heutzutage keine echten Menschen online gibt. Neue Forschungen zeigen, dass mehr als 50 % des Online-Verkehrs im vergangenen Jahr von Bots stammt.