Die wachsende Bedrohung durch KI-gestützte Desinformation bei globalen Wahlen

Während Wahlen weltweit stattfinden, sehen sie sich einer sich entwickelnden und formidable Bedrohung durch ausländische Akteure gegenüber, die eine potente Waffe einsetzen: künstliche Intelligenz. Das Reich der Wahlbeeinflussung trat 2016 in eine neue Phase ein, als russische Desinformationskampagnen die US-Präsidentschaftswahl über soziale Medien zielten. In den darauffolgenden Jahren zogen Länder wie China und Iran nach und nutzten soziale Medien, um Wahlen in den USA und verschiedenen Teilen der Welt zu beeinflussen. Da wir uns 2023 und 2024 nähern, bleibt die Bedrohung bestehen, jedoch mit einem neuen Element: generative KI und große Sprachmodelle, die das Potenzial haben, die Auswirkungen von Desinformation zu verstärken.

Die Macht der KI-gesteuerten Propaganda

Generative KI-Tools, exemplifiziert durch ChatGPT und das leistungsfähigere GPT-4, können große Mengen an Text schnell und in verschiedenen Tönen und Perspektiven produzieren. Dies macht sie einzigartig geeignet für Propaganda im Internet-Zeitalter. Während die genauen Implikationen dieser Technologien auf Desinformationskampagnen ungewiss bleiben, wird die Welt bald ihren Einfluss miterleben.

Die Wahlzeit steht kurz bevor und wird über die demokratische Welt fegen, wobei viele Länder nationale Wahlen abhalten. Diese Wahlen haben immense Bedeutung für Länder, die zuvor in soziale Medien-Einflussoperationen verwickelt waren. Zum Beispiel erstrecken sich Chinas Interessen auf Taiwan, Indonesien, Indien und zahlreiche afrikanische Nationen, während Russland das Vereinigte Königreich, Polen, Deutschland und die Europäische Union überwacht. Die Vereinigten Staaten bleiben ein Fokuspunkt für verschiedene Akteure. Da die Kosten für ausländischen Einfluss sinken, können mehr Länder der Arena beitreten, insbesondere mit Tools wie ChatGPT, die die Produktion von Propaganda erschwinglich machen.

Wahlmanipulation und der Wandel des politischen Landschaftsbildes

Auf einer kürzlich abgehaltenen Konferenz, auf der Vertreter aller US-Cybersecurity-Agenturen anwesend waren, standen die Erwartungen bezüglich Wahlmanipulationen im Jahr 2024 im Mittelpunkt. Neben den bekannten Akteuren wie Russland, China und Iran trat eine neue Kategorie zutage: „inländische Akteure“. Diese Verschiebung ist direkt auf die gesunkenen Kosten für KI-gestützte Desinformationskampagnen zurückzuführen.

Herausforderungen jenseits der Inhaltserstellung

Während KI die Erstellung von Inhalten erleichtert, bleibt die Verbreitung die entscheidende Herausforderung für Propagandisten. Fiktive Konten spielen eine entscheidende Rolle beim Posten und Amplifizieren von Inhalten, bis diese viral gehen. Unternehmen wie Meta haben ihre Fähigkeit verbessert, solche Konten zu identifizieren und zu löschen, wie eine kürzliche Razzia gegen eine chinesische Einflusskampagne zeigte. Dennoch bleibt die Desinformation ein Wettrüsten. Wenn sich Social-Media-Plattformen ändern, passen sich Propaganda-Quellen an, oft unter Wechsel zu Messaging-Plattformen wie Telegram und WhatsApp, was die Erkennung und Entfernung erschwert. TikTok, das von China kontrolliert wird, bietet eine Plattform für KI-generierte Kurzvideos und kompliziert die Lage weiter.

Generative KI-Tools ermöglichen neue Produktions- und Verteilungstechniken, wie etwa Low-Level-Propaganda im großen Maßstab. Stellen Sie sich KI-gestützte persönliche Konten in den sozialen Medien vor, die sich normal verhalten, über den Alltag und Interessen posten und gelegentlich politische Inhalte einstreuen. Diese „Persona-Bots“ haben einen minimalen individuellen Einfluss, können aber in großer Zahl eingesetzt einen erheblichen kollektiven Effekt haben.

Desinformation auf KI-Steroiden

Die militärischen Einheiten hinter Wahlmanipulationen, wie etwa in Russland und China, entwickeln wahrscheinlich ausgefeilte Taktiken, die über die Strategien aus dem Jahr 2016 hinausgehen. Bevor diese Länder ihre Kapazitäten hochfahren, testen sie Cyberangriffe und Informationsoperationen oft an kleineren Nationen. Die frühzeitige Erkennung und Katalogisierung dieser Taktiken ist entscheidend, um neuen Desinformationskampagnen entgegenzuwirken.

Da KI-gestützte Desinformationskampagnen immer fortschrittlicher werden, muss die USA proaktiv KI-produzierte Propaganda in anderen Ländern, wie Taiwan, „fingerprinten“ und identifizieren, wo Deepfake-Audioaufnahmen politische Kandidaten diffamiert haben. Ohne frühzeitige Erkennung und Verständnis können diese Kampagnen unbemerkt bleiben, bis sie die heimischen Grenzen erreichen.

Der Bedarf an Forschung und Verteidigung

Zwar verliefen einige jüngste Wahlen ohne signifikante Probleme durch KI-gestützte Desinformation, doch frühes Bewusstsein und Forschung sind für die Vorbereitung unerlässlich. Forscher müssen die in ausländischen Kampagnen eingesetzten Techniken studieren, um wirksame Verteidigungsstrategien zu entwickeln. Die Cybersicherheitsgemeinschaft erkennt an, dass der Austausch von Angriffsmethoden und deren Wirksamkeit entscheidend für den Aufbau robuster Verteidigungssysteme ist.

Die Bedrohung durch KI-gestützte Desinformation bei Wahlen wächst, was einen proaktiven und informierten Ansatz erforderlich macht. Während wir in diese neue Ära der Wahlmanipulation eintreten, müssen Länder wachsam bleiben, die internationale Zusammenarbeit fördern und Verteidigungsmechanismen entwickeln, die KI-gestützte Propaganda bekämpfen können. Je früher wir diese sich entwickelnden Taktiken verstehen, desto besser können wir die Integrität unserer demokratischen Prozesse schützen.