Britische Wahlbeobachtungsbehörde warnt vor Ohnmacht gegenüber KI-generierten Deepfakes

Die britische Wahlaufsichtsbehörde hat Alarm geschlagen und ihre Unfähigkeit zur Bekämpfung von „Deepfake“-Inhalten zum Ausdruck gebracht. Dadurch sei Großbritannien bei den bevorstehenden Wahlen dem störenden Einfluss KI-generierter gefälschter Videos von Politikern ausgesetzt.

Die britische Wahlaufsichtsbehörde hat eine eindringliche Warnung ausgesprochen und damit ihre mangelnden Befugnisse im Umgang mit der wachsenden Bedrohung durch Deepfake-Inhalte offenbart. Diese beunruhigende Enthüllung verdeutlicht die Anfälligkeit des Landes für die potenzielle Manipulation seiner Wahlprozesse durch KI-generierte gefälschte Videos.

Experten für künstliche Intelligenz warnen davor, dass die nächsten Wahlen in Großbritannien durch überzeugende, KI-generierte Deepfake-Audio- und -Videoaufnahmen von Politikern beeinflusst werden könnten. Diese Technologie stellt ein erhebliches Risiko für die Integrität demokratischer Prozesse dar.

Aktuelle Deepfake-dent

In den letzten Monaten häuften sich Fälle von überzeugenden, KI-generierten Deepfake-Inhalten, die sich gegen Politiker, insbesondere innerhalb der Labour Party, richteten. Anfang Oktober veröffentlichte ein Twitter/X-Account eine vermeintliche Audioaufnahme des Labour-Vorsitzenden Sir Keir Starmer, in der er abfällige Bemerkungen über die Mitarbeiter seiner Partei machte. Kurz darauf folgte ein Deepfake-Audio-Clip, in dem der Londoner Labour-Bürgermeister Sadiq Khan scheinbar respektlos gegenüber den Gedenkfeiern zum 100. Jahrestag der Unabhängigkeit der Vereinigten Staaten (Remembrance Day) wirkte.

Der rechtliche Status von Deepfake-Videos und -Audios mit Bezug zu politischen Persönlichkeiten ist weiterhin unklar. Obwohl sie möglicherweise unter die neuen Maßnahmen gegen schädliche Kommunikation im Online-Sicherheitsgesetz fallen, stehen die Behörden vor Herausforderungen bei der Bekämpfung solcher Inhalte. So stellte die Metropolitan Police beispielsweise die Ermittlungen zum Deepfake von Sadiq Khan ein, da dieser ihrer Ansicht nach keine Straftat darstellte

Bedenken hinsichtlich viraler, KI-generierter Fehlinformationen

Experten äußern Bedenken, dass KI-generierte gefälschte Videos von Politikern im Vorfeld der nächsten Wahl viral gehen könnten. Die einfache und kostengünstige Herstellung überzeugender Fälschungen, die Persönlichkeiten des öffentlichen Lebens in skandalösen Äußerungen oder Handlungen zeigen, hat solche Eingriffe zunehmend erleichtert. Viele Experten befürchten, dass feindselige staatliche Akteure neue Technologien nutzen könnten, um die Wahlen in Großbritannien zu beeinflussen und den demokratischen Prozess zu stören.

Ab November 2023 müssen Wahlkampfmaterialien einen Impressumshinweis enthalten, der den Herausgeber bestimmter politischer Online-Inhalte ausweist. Es besteht jedoch keine Pflicht, offenzulegen, ob die Inhalte KI-generiert sind, und die Wahlkommission hat keine Befugnis, Falschinformationen zu sanktionieren oder zu entfernen. Obwohl Ofcom in diesem Bereich über mehr Regulierungsbefugnisse verfügt, bleibt der Rechtsrahmen für KI-generierte politische Falschinformationen und Deepfakes unklar.

beschränkte Befugnisse der Wahlkommission

Die Wahlkommission hat ihre Rolle im Umgang mit Deepfakes und Wahlkampfmaterialien präzisiert und erklärt, dass sie primär für die Regulierung der Parteien- und Wahlkampffinanzierung sowie die Einhaltung der Vorschriften zur digitalen Kennzeichnung zuständig ist. Obwohl die Kommission die Herausforderungen durch KI-generierte Inhalte anerkennt, ist sie nicht befugt, direkt gegen Deepfake-bezogene Probleme vorzugehen.

Die Kommission arbeitet aktiv mit Partnern und anderen Aufsichtsbehörden zusammen, um die Chancen und Herausforderungen der KI-Technologie bei Wahlen besser zu verstehen. Sie ermutigt Wählerinnen und Wähler außerdem, Online-Informationen kritisch zu prüfen, und bietet Hilfestellung bei derdentvon Falschnachrichten. Bedenken werden an die zuständigen Aufsichtsbehörden weitergeleitet.

Forderungen nach gestärkten Regulierungsbefugnissen

Die Wahlkommission erkennt die Grenzen der bestehenden Regelungen und setzt sich daher bei der britischen Regierung für eine Stärkung der Befugnisse der britischen Regulierungsbehörden, einschließlich der Kommission selbst, ein. Konkret strebt die Kommission erweiterte Befugnisse an, um Informationen von Social-Media-Plattformen, Technologieunternehmen und Online-Zahlungsanbietern zu erhalten. Diese Initiative zielt darauf ab, die Finanzierungsquellen politischer Desinformationskampagnen zudentund damit einen zentralen Aspekt des Problems anzugehen.

Reaktionen der Tech-Giganten

Byline Times kontaktierte mehrere Tech-Giganten, um sich nach deren Richtlinien und Maßnahmen gegen schädliche politische Deepfakes zu erkundigen. TikTok erklärte beispielsweise, jegliche politische Werbung zu verbieten und eine klare Kennzeichnung synthetischer Medien oder manipulierter Inhalte, die realistische Szenen darstellen, vorzuschreiben. TikTok verfolgt zudem strenge Richtlinien gegen Desinformation.

Google/Alphabet betonte seine kontinuierlichen Bemühungen im Kampf gegen Desinformation und seine Experimente mit Wasserzeichentechnologie zur Kennzeichnung KI-generierter Inhalte. Google kündigte SynthID an, ein Tool zum Einbetten unmerklicher digitaler Wasserzeichen in KI-generierte Bilder, um deren Authentizität zu überprüfen.

Google hob zudem seine Fortschritte bei der Erkennung synthetischer Sprache mit einer Genauigkeit von nahezu 99 % hervor und kündigte Pläne zur Aktualisierung seiner Richtlinien für politische Inhalte an. Diese Aktualisierung verpflichtet verifizierte Wahlwerbetreibende, synthetische Inhalte in ihren Anzeigen – einschließlich Bildern, Videos und Audiodateien – deutlich zu kennzeichnen.

YouTube, ein Tochterunternehmen von Google, verfolgt strenge Richtlinien gegen „technisch manipulierte Inhalte“, die Zuschauer irreführen und ein erhebliches Schadensrisiko darstellen. YouTube verpflichtet Urheber außerdem, die Erstellung von veränderten oder synthetischen Inhalten, die realistisch wirken, offenzulegen.

Herausforderungen und Risiken KI-generierter Fehlinformationen

Das Hauptrisiko bei KI-generierten Deepfake-Inhalten besteht in der Erstellung überzeugender Videos, die Ereignisse zeigen, die nie stattgefunden haben, oder Personen Dinge sagen und tun lassen, die sie nie getan haben. Dieses Risiko ist im Kontext von Wahlkämpfen besonders brisant, da die öffentliche Meinung durch solche irreführenden Inhalte beeinflusst werden kann.

Reaktionen von Meta/Facebook und Twitter

Meta/Facebook hat Anfragen zu ihren Richtlinien und Maßnahmen gegen politische Deepfakes nicht beantwortet. Twitter/X antwortete mit einer automatisierten Nachricht, ohne weitere Details zu ihrer Haltung oder ihren Maßnahmen in dieser Angelegenheit zu nennen.

Angesichts der Bedrohung der demokratischen Prozesse im Vereinigten Königreich durch KI-generierte Deepfakes steht das Land vor der entscheidenden Herausforderung, die Verbreitung dieser irreführenden Inhalte wirksam zu regulieren und zu bekämpfen. Die Beteiligung von Technologiekonzernen an der Umsetzung von Maßnahmen gegen Deepfakes unterstreicht die Dringlichkeit, dieses Problem anzugehen, um die Integrität von Wahlen und des demokratischen Diskurses zu schützen.