Großbritannien setzt auf Microsoft zur Deepfake-Erkennung angesichts des KI-Booms

Großbritannien hat Pläne bekannt gegeben, mit Microsoft, Akademikern und technischen Experten zusammenzuarbeiten, um ein System zur Deepfake-Erkennung zu entwickeln, da die Besorgnis über das Ausmaß der KI-generierten Täuschung im Internet wächst.

Die Initiative stellt Deepfake, KI, Großbritannien, Microsoft und Erkennungssysteme in den Mittelpunkt eines neuen Vorstoßes, um schädliche Inhalte einzudämmen, die zunehmend realistisch und schwerer zu erkennen werden.

Großbritannien zielt auf Betrug und nicht einvernehmliche Bilder ab

Laut der Regierung wird die Partnerschaft einen Rahmen zur Bewertung von Deepfake-Erkennung entwickeln, der eine Reihe gemeinsamer Standards für die Bewertung von Erkennungsvorrichtungen für verfälschte Audio-, Video- und Bilddateien schaffen wird.

Sowie die Bereitstellung eines Benchmarks für diese Arten von Erkennungsvorrichtungen anhand realer Anwendungsbeispiele (Betrug und Identitätsdiebstahl) sowie von Bildern oder Videos sexueller Ausbeutung von Kindern.

Technologie-Ministerin Liz Kendall warnte, dass dieses Risiko nicht nur theoretisch existiert.

„Deepfakes werden von Kriminellen verwendet, um die Öffentlichkeit zu täuschen, Frauen und Mädchen auszunutzen und die Glaubwürdigkeit dessen, was wir sehen und hören, zu untergraben. Und dies wird so lange anhalten, bis wir Maßnahmen ergreifen, um Bürger und demokratische Institutionen vor Manipulation zu schützen.“

Kendall

Die Manipulation von Medien gibt es seit vielen Jahrzehnten. Experten sagen jedoch, dass mit der Entwicklung der KI die Menge an Geld und Können, die erforderlich ist, um eine hochwertige Fälschung zu produzieren, so zugänglich wie nie zuvor geworden ist.

Im Vereinigten Königreich rückt die strafrechtliche Handlung der Herstellung intimer Bilder ohne Einwilligung infolge des rapiden Anstiegs der Anzahl von KI-generierten gefälschten Bildern stärker in den Fokus.

Laut Regierungsdaten wurden im Jahr 2025 acht Millionen gefälschte Bilder als Deepfakes erstellt, im Vergleich zu nur 500.000 im Jahr 2023. Dies zeigt, wie schnell Menschen diese Art von Bildern erstellen.

Das Framework wurde erstellt, um Strafverfolgungsbehörden zu ermöglichen, diese Straftat zu erkennen, zu verhindern und strafrechtlich zu verfolgen, und der Industrie klare Erwartungen hinsichtlich der Sicherheitsvorschriften zu vermitteln.

Dies ist ein Schritt, zu dem Regierungen aufgefordert wurden, und Microsoft rief den Kongress im Jahr 2024 auf, neue Gesetze zu verabschieden, die auf KI-generierte Deepfakes abzielen. Brad Smith, Vizevorsitzender und Präsident von Microsoft, betonte die Dringlichkeit, dass Gesetzgeber die wachsende Bedrohung durch Deepfake-Technologie angehen müssen.

In seinem Blogbeitrag hob Smith die Bedeutung der Anpassung von Gesetzen hervor, um Deepfake-Betrug zu bekämpfen und Ausbeutung zu verhindern. Laut Smith sollte es ein Gesetz geben, das verwendet werden kann, um Scams und Betrug mit Deepfakes zu ahnden.

Laut dem Bericht von Microsoft können verschiedene rechtliche Maßnahmen ergriffen werden, um den Missbrauch von Deepfake-Technologie zu verhindern. Einer der Vorschläge besteht darin, ein bundesweites „Deepfake-Betrugsgesetz“ zu schaffen.

Plattformen durch Regulierung unter Druck setzen

Weltweit haben Regulierungsbehörden Schwierigkeiten, mit den rasanten Fortschritten der KI-Technologie Schritt zu halten.

Im Vereinigten Königreich haben sowohl die Kommunikationsaufsichtsbehörde („Communications Regulator“) als auch die Datenschutzaufsichtsbehörde („Privacy Regulator“) begonnen, den Grok-Chatbot zu untersuchen, der von Elon Musk betrieben wird, da der Chatbot sexualisierte Bilder von Kindern produzierte, die ohne deren Einwilligung erstellt wurden.

Im Rahmen dieser Untersuchung werden die beiden Aufsichtsbehörden zusammenarbeiten, um ein neues Framework zur Unterstützung von Strafverfolgungs- und Regulierungsbehörden bei der Festlegung konsistenter Standards für die Bewertung von Erkennungstools zu entwickeln.

Laut Kendall ist der Zweck dieses neuen Frameworks „die Wiederherstellung des Vertrauens in das, was Menschen online sehen und hören“, und es soll alle Technologieanbieter dazu verpflichten, die Verantwortung für die Minderung potenzieller Schäden im Zusammenhang mit der beschleunigten Nutzung von KI-Technologien zu übernehmen.