Bots, die KI einsetzen, überschwemmen soziale Medien mit Desinformation

Fast jeden Monat bietet das Internet eine neue, kreative Idee für ein müheloses „Schnell-reich-werden“-System. Viele nutzen KI-Tools , um ihre Arbeit zu optimieren und höhere Gewinne zu erzielen. Lokale Nachrichtensender veröffentlichen ihre Moderatoren, und das Außenministerium baut ein digitales Portal auf. Anders als Übersetzungen und Grammatikprüfungen, die üblich und selbstverständlich sind, wird dies zu einem festen Bestandteil unseres Lebens und kaum noch mit KI in Verbindung gebracht.

Aufdeckung der KI-gesteuerten Bot-Farm

Es gibt noch eine weitere Nische: die Erstellung komplett neuer, origineller Inhalte. Dafür benötigt man lediglich zwanzig oder sogar nur eine Minute. Die gesamte KI-Plattform dient dazu, Videos zu produzieren (oder gestohlenes Videomaterial zu bearbeiten), Texte und traczu verfassen, alles zu inszenieren und Beschreibungen sowie Hashtags für die Veröffentlichung in sozialen Netzwerken in Sekundenschnelle hinzuzufügen.

Soziale Netzwerke verkommen so allmählich zu reinen KI-Müllhalden, und solche Instrumente ermöglichen es den Nutzern, sich in der Illusion zu enj, ein Werbevideo erstellt zu haben, das populär werden und Einnahmen generieren könnte. Oder sie verbreiten russische Propaganda so weit, dass sie zur dominierenden Stimme in der Debatte wird.

Sie werden sehen, wie KI zur Aufklärung über eine Fake-Farm beiträgt, am Beispiel einer Bot-Farm mit 300 Kanälen, die mithilfe von KI Videos von russischen oder belarussischen YouTube-Kanälen verarbeitet und generiert. Hier ist Anastasiia Kozhevnikova, eine junge Frau aus Mariupol, die heute eine bekannte russische YouTuberin ist. Obwohl ihr Kanal nur 190.000 Abonnenten hat, ist sie ein gutes Beispiel dafür, wie die geschickte Nutzung des Internets einer in ihrem Heimatland unterdrückten Person eine Stimme verleihen kann. Sie genießt einen guten Ruf als Verbreiterin der russischen Propagandamythen von „Russland als Retter“ und dem Wiederaufstieg Mariupols aus der Zerstörung.

Verlässt man ihr Profil, fällt auf, dass es kaum Informationen zum besprochenen Thema gibt. Sie stellt sich vor und spricht über ihre üblichen Vlog-Themen. Woher soll man wissen, dass es ähnliche Netzwerke in der Community gibt? Was, wenn es sich um einen Link zum YouTube-Kanal eines bekannten Social-Media-Stars handelt? Karten mit Bildern zur Mission der Organisation wären durchaus denkbar. Vielleicht sogar attraktivere Kartennummern. Im Gegensatz dazu fehlt es an einer ansprechenden Formulierung mit einem Anreiz zum Abonnieren. Jeder Kanal kann sich zwar spezialisieren, aber ich habe festgestellt, dass viele solcher Kanäle bereits über entsprechende Inhalte verfügen.

Die schleichende Verbreitung von KI-Desinformation

Die ausgeklügelte Google-Suche lieferte 298 TikTok-dentmit identischer Beschreibung. Offenbar gibt es Ähnlichkeiten in ihrem Leben. So gingen sie vor, um innerhalb der künstlich geschaffenen russischsprachigen TikTok-Plattform eine Kampagne auszuwählen. Der einzige Unterschied liegt in den behandelten Themen. 

Ob man nun nach „russischer Propaganda“ oder „imperialen Verschwörungstheorien“ sucht, die Auswahl ist riesig. Gleichzeitig findet man Rezepte, Tipps für Mechaniker, Videos für Autoenthusiasten, Kinderzeichentrickfilme, Blogger usw., die über Friedhöfe in Russland berichten oder über die Suche nach Schätzen im Schrott. Sie alle lassen sich nur unter dem Begriff „Offline-Stars“ zusammenfassen, da diese die einzigen sind, denen man online begegnet. Erwähnenswert ist, dass die Medienaktivität in Russland von März 2022 bis vor Kurzem eingeschränkt war. So galt beispielsweise TikTok, eines der beliebtesten Netzwerke, als illegal.

Das Fehlen von Informationen über die Urheber der entdeckten Bot-Farmen deutet erneut auf Piraterie hin. Bis Ende Mai werden die Zahlen deutlich sichtbar sein, wahrscheinlich über 10 Millionen. Likes und noch mehr Aufrufe verzeichnet der Kanal bereits seit sechs Monaten. Je tiefer man jedoch in diese virtuelle Fantasiewelt vordringt, desto mehr gefälschte und nicht existierende Inhalte werden auftauchen. Russland wird diese in seinem Informationskrieg einsetzen. Russische Bots und Bot-Farmen replizieren und verbreiten häufig populäre Beiträge in sozialen Medien, wodurch diese für deren Algorithmen leichter erkennbar sind.

Der Einsatz von KI -Funktionen für soziale Plattformen stellt eine größere Herausforderung dar. Sie werden den Namen der Gegenbewegung mit dem Slogan „Im toten Raum des Internets fliegen“ in den Vordergrund rücken, der besagt, dass es heutzutage keine echten Menschen mehr online gibt. Neue Forschungsergebnisse zeigen nun, dass im letzten Jahr über 50 % des Online-Verkehrs von Bots generiert wurden.