Die Deepfake-Technologie, die generative KI- Plattformen wie Midjourney 5.1 und DALL-E 2 von OpenAI nutzt, hat bemerkenswerte Fähigkeiten bei der Produktion lebensechter Bilder und Videos bewiesen. Das US-amerikanische Federal Bureau of Investigation (FBI) hat jedoch kürzlich eine Warnung herausgegeben, in der es heißt, dass Kriminelle Deepfakes ausnutzen, um Opfer zu erpressen.
Das FBI warnt die Öffentlichkeit vor der Erpressungsmasche
Nach Angaben des FBI liegen Berichte von Opfern vor, darunter Minderjährige und nicht einwilligende Erwachsene, deren Fotos oder Videos manipuliert wurden, um explizite Inhalte zu erstellen. In einer am Montag veröffentlichten Warnung des öffentlichen Dienstes (PSA) wies die Behörde auf die zunehmende Verbreitung von Online-Erpressungsfällen hin, insbesondere solchen, bei denen es um „Sextortion-Betrügereien“ mit Deepfakes geht. Allein im vergangenen Jahr gingen bei den Strafverfolgungsbehörden über 7.000 Meldungen zu Online-Erpressung gegen Minderjährige ein, wobei die dent im Zusammenhang mit Deepfakes seit April zunahmen.
Bei Deepfakes handelt es sich um erfundene Audio- oder Videoinhalte, die durch künstliche Intelligenz generiert werden und es oft schwierig machen, die Authentizität des Materials zu erkennen. Der Aufstieg von Plattformen wie Midjourney 5.1 und DALL-E 2 von OpenAI hat zur Raffinesse und Zugänglichkeit der Deepfake-Technologie beigetragen. Leider hat dies auch dazu geführt, dass böswillige Akteure die Technologie für illegale Zwecke nutzen konnten.
Die Agentur weist auf Risiken hin, die mit dem Einsatz der Technologie verbunden sind
Die Warnung des FBI erfolgt im Anschluss an mehrere dent , die die potenziellen Gefahren von Deepfakes verdeutlichen. Beispielsweise wurde ein Deepfake-Video mit Tesla- und Twitter-CEO Elon Musk weit verbreitet, um Kryptowährungsinvestoren zu täuschen. Das manipulierte Video nutzte Filmmaterial aus früheren Interviews mit Musk, das geschickt bearbeitet wurde, um der Geschichte des Betrugs gerecht zu werden.
Es ist wichtig zu beachten, dass nicht alle Deepfakes böswillig sind. Einige Deepfakes haben aufgrund ihrer humorvollen oder kreativen Elemente Aufmerksamkeit erregt, beispielsweise ein virales Video , das Papst Franziskus in einer weißen Balenciaga-Jacke zeigt. Darüber hinaus wurden KI-generierte Deepfakes eingesetzt, um verstorbene Personen digital nachzubilden, mit dem Ziel, sie in verschiedenen Kontexten wieder zum Leben zu erwecken.
Als Reaktion auf diese Bedrohungen hat das FBI Empfehlungen zum Schutz vor Deepfake-Erpressung herausgegeben. Sie raten von der Zahlung eines Lösegelds ab, da dies keine Garantie dafür sei, dass die Kriminellen die Veröffentlichung der Deepfake-Inhalte unterlassen. Die Agentur betont außerdem, wie wichtig es ist, beim Teilen persönlicher Informationen und Inhalte im Internet Vorsicht walten zu lassen, und schlägt die Verwendung von Datenschutzfunktionen vor, um den Zugriff auf Konten einzuschränken. Weitere vom FBI empfohlene Maßnahmen sind die Überwachung der Online-Aktivitäten von Kindern, die Wachsamkeit gegenüber ungewöhnlichem Verhalten früherer Bekannter und die regelmäßige Suche nach persönlichen Daten und Informationen zu Familienmitgliedern im Internet.
