- KI-generierte Fälschungen verbreiten sich vor der nepalesischen Wahl am 5. März, einschließlich gefälschter Videos und Audioaufnahmen politischer Führer.
- Ein Social-Media-Verbot nach Protesten forderte 77 Todesopfer und trieb Desinformation in den Untergrund.
- Experten mahnen zur Überprüfung vor dem Teilen, während die Polizei auf ausgeklügelte KI-Angriffe vorbereitet ist.
Vor der bevorstehenden vorgezogenen Wahl am 5. März hat ein gefälschter Film mit drei prominenten nepalesischen Politikern gezeigt, wie KI als Waffe eingesetzt wird.
Das Video, das vollständig computergeneriert war, zeigte den ehemaligen Kathmandu-Bürgermeister Balendra Shah, den ehemaligen Leiter des Elektrizitätssektors Kulman Ghising und den Führer der Rastriya Swatantra Party Rabi Lamichhane, die zusammen spazieren.
Viele dachten, es entstehe eine neue politische Allianz, als das Video im Internet viral ging. Da die gesamte Begegnung jedoch computergeneriert war, trafen die drei Politiker nie wirklich zusammen.
Audiofälschungen verbreiten sich über soziale Netzwerke
Das gefälschte Video ist nur ein Beispiel für KI-generierte Inhalte, die die digitalen Räume Nepals zunehmend füllen, während sich die Wahl nähert. Die Wahl findet lediglich sechs Monate nach gewalttätigen Demonstrationen statt, die von jungen Menschen angeführt wurden und ein Ende der Korruption forderten. Diese Proteste zwangen den damaligen Premierminister K.P. Sharma Oli zum Rücktritt und ließen das politische System des Landes ins Wanken geraten.
Digitale Fälschungen, die auf bekannte Personen abzielen, haben als Ergebnis dieses Vertrauensverlusts zugenommen. Der Vizepräsident der Rastriya Swatantra Party, Swarnim Wagle, hat bei der nepalesischen Cyber-Behörde Anzeige erstattet. Ein gefälschtes Audio-Tape wurde erstellt, um den Anschein zu erwecken, er habe ein Gespräch mit dem Premierminister Indiens geführt, das nie stattgefunden hat.
Diese Audio-Fälschungen bergen in Nepal einzigartige Risiken, wie Poynters Faktenchecks zeigten. Sprachnachrichten verbreiten sich schnell in Familien-Chatgruppen und in den sozialen Medien und erreichen oft Empfänger, die ihre Echtheit nicht bestätigen können. Die Unzuverlässigkeit der zur Identifizierung veränderter Audioaufnahmen verwendeten Tools bedeutet, dass normale Menschen nur begrenzte Möglichkeiten haben, zwischen Falschmeldungen und der Wahrheit zu unterscheiden.
Versuche der Regierung, das Problem zu kontrollieren, haben die Lage häufig verschärft. Facebook, X und YouTube wurden von den Behörden während der Demonstrationen im September gesperrt, weil sie sich nicht bei den Aufsichtsbehörden registriert hatten.
Das Verbot löste mehr Gewalt aus, anstatt die Spannungen zu beruhigen. Reuters dokumentierte mindestens 77 Tote und Tausende von Verletzten während des Chaos, das folgte. Die Beamten hoben die Beschränkungen schließlich auf, aber der Vorfall zeigte, warum grobe Blockaden nicht funktionieren. Falschinformationen zogen einfach in schwerer zu überwachende Kanäle um.
Die nepalesische Wahlkommission hat versucht, diesen Herausforderungen durch Richtlinien zu begegnen. Ihre „Richtlinie zur Nutzung sozialer Medien im Wahlmanagement“ von 2021 legte erste Leitlinien fest. Ein neuer Entwurf eines Verhaltenskodex für die bevorstehende Wahl verbietet ausdrücklich falsche Informationen und gefälschte Konten, die darauf abzielen, Wähler zu beeinflussen.
Spezialisten warnen jedoch, dass diese Regeln für das Zeitalter der generativen KI sofort aktualisiert werden müssen. Fragen bleiben unbeantwortet: Was genau stellt synthetische Medien dar? Sollten Kampagnen Inhalte offenlegen, die mit KI-Hilfe erstellt wurden? Wer haftet, wenn sich falsche Informationen verbreiten?
Experten fordern eine koordinierte Antwort
Ohne perfekte Regulierungen drängen Spezialisten und Überwachungsgruppen auf breitere Lösungen. Poynter und ähnliche Medienorganisationen empfehlen mehrere Schritte: Nachrichtenorganisationen und Faktenprüfer sollten jedes virale Video wie ein Verbrechen untersuchen, seinen Ursprung zurückverfolgen und nachweisen, wie sie ihn verifiziert haben.
Politische Parteien und Kandidaten sollten versprechen, keine Deepfakes zu verwenden und jedes mit KI erstellte Material klar kennzeichnen. Social-Media-Unternehmen sollten Teams für schnelle Reaktionen einrichten, die mit Nepals Sprachen und Politik vertraut sind. Regelmäßige Bürger sollten einen „Zehn-Sekunden-Triage“-Ansatz verfolgen: Anhalten, Prüfen und Bestätigen, bevor sie schockierende Behauptungen teilen.
Die Cyber-Behörde der nepalesischen Polizei bereitet sich bereits auf fortgeschrittenere Angriffe auf technischer Ebene vor. SP Ray, ein Beamter der Behörde, sagte: „KI wird größer und wird auf mehr Arten eingesetzt. Bald werden wir vielleicht Verbrechen und Cyberangriffe sehen, die KI erleichtert.“
Ray merkte auch an, dass die relative Neuheit der Technologie etwas Luft zum Atmen bieten könnte. Er glaubt, dass KI Technologie noch in den Kinderschuhen steckt und gerade erst von der Öffentlichkeit angenommen wird, sodass es etwas länger dauern könnte, sie als Werkzeug der Zerstörung zu nutzen.
„Wir sind gut ausgestattet, um diese Verbrechen und Bedrohungen zu bekämpfen, und das sollten wir auch“, sagte Ray. Er fügte Beruhigung hinzu: „Die nepalesische Polizei kann jede Handlung untersuchen. Das Einzige, wofür es Zeit braucht, sind Angriffe aus dem Ausland .“
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Hania Humayun
Hania kam mit einer langjährigen Erfahrung in der Analyse von Finanzen, Wirtschaftstrends und Prognosemärkten zu Cryptopolitan. Sie berichtete über Themen wie aufstrebende Technologien, KI und Fintech. Haniyas Erfahrungen als lizenzierte Architektin haben ihrem journalistischen Schreiben Schwung und Präzision verliehen. Sie absolvierte ein Architekturstudium am National College of Arts in Lahore.
