KI-generierte politische Memes lösen Kontroverse bei indischen Wahlen aus

Der Indische Nationalkongress (INC) und die Bharatiya Janata Party (BJP) setzen auf KI-generierten politischen Inhalten auf ihren offiziellen Instagram-Kanälen. Der Einsatz künstlicher Intelligenz zur Erstellung und Verbreitung politischer Botschaften markiert einen Paradigmenwechsel in der visuellen Politik und wirft Fragen nach Transparenz und Offenlegung auf.

Am 20. Februar veröffentlichte der Indische Nationalkongress (INC) auf Instagram ein satirisches Video, das Premierminister Narendra Modi anhand eines Hindi-Musikalbums mit dem Titel „Chor“ (Dieb) parodierte. Das Video, das über 1,5 Millionen Mal aufgerufen wurde, zeigt humorvoll einen Wirtschaftsmagnaten beim Diebstahlversuch, wobei Modi scheinbar wichtige Vermögenswerte herausgibt. Obwohl nicht hyperrealistisch, verwendet der Inhalt KI-generierte Memes und nutzt Modis Stimme und Gesichtszüge, um die Kritik an seinen angeblichen Verbindungen zu Wirtschaftsmagnaten zu verstärken.

Als Reaktion darauf lud die BJP, die auf Instagram über sieben Millionen Follower hat, einen einminütigen Clip hoch, der Modis Erfolge der letzten neun Jahre präsentierte. Das Besondere daran: Eine KI-generierte Stimme sang ein patriotisches Hindi-Lied und hob Modis Verdienste um Landwirte und indische Wissenschaftler hervor. Die von forensischen Experten als KI-generiert bestätigte Audioaufnahme markierte einen bedeutenden Bruch mit der bisherigen Praxis politischer Parteien in Indien.

KI-Kriege stellen Plattformrichtlinien in Frage

Eine Recherche von Al Jazeera deckte mindestens drei Fälle von KI-generierten oder -veränderten Inhalten auf den offiziellen Instagram-Profilen der beiden großen politischen Parteien seit dem 20. Februar auf. Die Inhalte, darunter auch Clips, die auf YouTube und Facebook geteilt wurden, geben Anlass zur Sorge über die Grenzen der Plattformrichtlinien in Bezug auf irreführende politische Inhalte. Die aktuellen Regeln von Meta verpflichten Werbetreibende zwar zur Offenlegung des KI-Einsatzes in politischen Anzeigen, diese Bestimmung gilt jedoch nicht für politische Seiten und Accounts.

Meta reagierte nicht auf Anfragen zu den Richtlinien für die Kennzeichnung von KI-generierten Inhalten. Der Aufsichtsrat forderte das Unternehmen jedoch dringend auf, seine Richtlinie zu manipulierten Medien auf gefälschte Audioaufnahmen auszuweiten und irreführende Inhalte zu kennzeichnen. YouTube hingegen plant, Content-Ersteller zur Offenlegung des Einsatzes von KI in realistisch veränderten oder synthetischen Inhalten zu verpflichten, wie in einem Blogbeitrag vom November 2023 angekündigt wurde.

Trotzdent Deepfake-Unstimmigkeiten sorgte das Video der INC online für breite Belustigung und verdeutlichte den wachsenden Einfluss KI-gestützter Memes in der politischen Kommunikation. Vaibhav Walia, Vorsitzender des Kommunikationsstabs der INC für die Wahlen 2024, betonte die Wirksamkeit memebasierter Kommunikation bei der Vermittlung der Parteibotschaft in den sozialen Medien. Er merkte an, dass der Einsatz von KI dem Bedürfnis entspreche, in Zeiten memegetriebener Social-Media-Trends herausragende Inhalte zu erstellen, die die Aufmerksamkeit der Wähler fesseln.

Die mutmaßlich KI-generierten Clips der BJP stellten die Experten vor eine Herausforderung, da die Meinungen darüber auseinandergingen, ob die Inhalte tatsächlich KI-bearbeitet waren. Parteisprecher Gaurav Bhatia schwieg dazu. Die von Experten bestätigte KI-generierte Nachbildung eines Hindi-Liedes aus den 1970er-Jahren nutzte das Retrieval-Based Voice Conversion (RVC)-Modell, um eine einzigartige Stimme synthetisch in die des legendären Sängers Mahendra Kapoor zu verwandeln.

Forderung nach verpflichtenden Offenlegungen in politischen KI-Inhalten

Da politische Organisationen zunehmend KI zur Inhaltserstellung nutzen, fordern Experten die verpflichtende Kennzeichnung KI-bearbeiteter Inhalte auf politischen Seiten. Angesichts der rasanten Fähigkeit von KI, die Realität nachzubilden, sind solche Kennzeichnungen unerlässlich, um potenzieller Desinformation vorzubeugen. Die indische Wahlkommission hat sich jedoch bisher nicht zu Richtlinien für politische Parteien geäußert, die KI-veränderte Inhalte teilen.

Die Desinformationsforscherin Tarunima Prabhakar betonte die Notwendigkeit von Offenlegungspflichten, da KI-generierte Inhalte die Realität immer überzeugender imitieren können. Politische Satire mithilfe von KI, einschließlich Deepfake-Technologie, erfordert Schutzmaßnahmen, um die Meinungsfreiheit zu wahren. Die Notwendigkeit klarer Kennzeichnung ist in demokratischen Kontexten, in denen zwischen Satire und Desinformation unterschieden werden muss, umso wichtiger.

Da politische Parteien in Indien KI zur Content-Erstellung einsetzen, verändert sich die politische Kommunikationslandschaft grundlegend. Die ethischen Implikationen des KI-Einsatzes in der politischen Kommunikation sowie die Herausforderungen der Erkennung und Offenlegung erfordern ein differenziertes Vorgehen. Mit der Weiterentwicklung der Technologie müssen auch Regulierungen und Transparenzmaßnahmen angepasst werden, um den verantwortungsvollen Einsatz von KI bei der Gestaltung politischer Narrative zu gewährleisten. Das Aufkommen KI-gestützter politischer Inhalte markiert einen Wendepunkt und erfordert ein sensibles Gleichgewicht zwischen Innovation und ethischen Überlegungen im digitalen Zeitalter.