Die australische Parlamentsabgeordnete Georgie Purcell äußerte kürzlich Bedenken hinsichtlich eines digital veränderten Bildes, das ihren Körper verzerrte und Teile ihrer Kleidung ohne ihre Zustimmung entfernte. Dieserdent verdeutlicht die potenziell sexistischen und diskriminierenden Folgen unkontrollierter KI-Technologien.
Obwohl KI-gestützte Tools im Alltag oft als einfach gelten, können sie unbeabsichtigt gesellschaftliche Vorurteile verstärken. Werden sie zur Bildbearbeitung eingesetzt, können sie bestimmte gesellschaftlich erwünschte Merkmale wie Jugendlichkeit und Sexualisierung – insbesondere bei Frauenbildern – hervorheben.
Besorgniserregend ist die zunehmende Verbreitung sexualisierter Deepfake-Inhalte, die sich vorwiegend gegen Frauen richten. Berichten zufolge sind erschreckende 90–95 % der Deepfake-Videos nicht einvernehmliche Pornografie, wobei in rund 90 % der Fälle Frauen die Opfer sind. Fälle von nicht einvernehmlicher Erstellung und Verbreitung sexualisierter Deepfake-Bilder sind weltweit aufgetaucht und betreffen Menschen verschiedenster Bevölkerungsgruppen, darunter junge Frauen und Prominente wie Taylor Swift.
Die Notwendigkeit globalen Handelns
Während in einigen Regionen Gesetze gegen die nicht einvernehmliche Verbreitung sexualisierter Deepfakes existieren, sind die Gesetze zu deren Erstellung, insbesondere in den Vereinigten Staaten, weiterhin uneinheitlich. Das Fehlen einheitlicher internationaler Regelungen unterstreicht die Notwendigkeit gemeinsamer globaler Maßnahmen zur wirksamen Bekämpfung dieses Problems.
Die Erkennung KI-generierter Inhalte wird durch fortschreitende Technologien und die zunehmende Verfügbarkeit von Apps, die die Erstellung sexuell expliziter Inhalte erleichtern, erschwert. Es wäre jedoch vernachlässigbar, die Schuld allein der Technologie zuzuschreiben und die Verantwortung der Technologieentwickler und digitalen Plattformen für die Sicherheit und die Rechte der Nutzer zu vernachlässigen.
Australien hat in diesem Bereich eine Vorreiterrolle eingenommen, beispielsweise durch Initiativen wie das Büro des eSafety Commissioner und nationale Gesetze, die digitale Plattformen für die Verhinderung und Entfernung nicht einvernehmlicher Inhalte verantwortlich machen. Um die Schäden durch nicht einvernehmliche sexualisierte Deepfakes wirksam zu mindern, sind jedoch eine breitere globale Zusammenarbeit und proaktive Maßnahmen unerlässlich.
Der unkontrollierte Einsatz von KI in der Bildbearbeitung und die Verbreitung sexualisierter Deepfake-Inhalte stellen erhebliche Herausforderungen dar, die umfassende Regulierungsrahmen und gemeinsames globales Handeln erfordern. Indem die Sicherheit und die Rechte der Nutzer bei der Technologieentwicklung und -durchsetzung Priorität haben, können Gesellschaften dazu beitragen, die geschlechtsspezifischen Schäden durch KI-gestützten Missbrauch zu mindern.
