Australiens neue Standards zur Bekämpfung von Online-Schaden

Australiens eSafety-Beauftragte Julie Inman Grant hat mit einem wegweisenden Schritt weltweit erstmalige Branchenstandards vorgestellt, die große Technologieunternehmen wie Apple, Google und Meta zu entschiedeneren Maßnahmen gegen die grassierende Verbreitung von kinderpornografischem Material und terroristischen Inhalten auf ihren Plattformen verpflichten sollen. Diese Standards umfassen auch die Bekämpfung des besorgniserregenden Aufkommens von „Deepfake“-Kinderpornografie, die mithilfe generativer KI erstellt wird. 

Nach über zwei Jahren intensiver Bemühungen und der Ablehnung von Entwürfen der Technologiebranche hat Kommissar Inman Grant nun Entwürfe für Standards veröffentlicht, die für Cloud-Speicherdienste wie Apple iCloud, Google Drive und Microsoft OneDrive sowie für Messaging-Plattformen wie WhatsApp gelten. Ziel ist es, diese Unternehmen zu verstärkten Anstrengungen zur Entfernung rechtswidriger Inhalte aus ihren Diensten zu verpflichten.

Globale Auswirkungen erwartet

Kommissar Inman Grant, der zuvor eine Führungsposition bei Twitter innehatte, hofft, dass diese australischen Branchenstandards alsdent für ähnliche Regulierungen weltweit dienen werden, um das weit verbreitete Problem schädlicher Inhalte anzugehen. Es ist wichtig zu betonen, dass diese Anforderungen Technologieunternehmen nicht dazu zwingen, ihre eigene Ende-zu-Ende-Verschlüsselung zu beeinträchtigen, die bei einigen Diensten wie WhatsApp standardmäßig aktiviert ist.

Während große Technologieplattformen Richtlinien haben, die kinderpornografisches Material auf ihren öffentlichen Diensten verbieten, argumentiert Kommissarin Inman Grant, dass diese Unternehmen nicht genug getan haben, um ihre eigenen Plattformen zu kontrollieren. Sie stellte klar: „Wir verstehen die Probleme der technischen Machbarkeit und verlangen von ihnen nichts, was technisch unmöglich ist. Wir sagen aber auch, dass sie nicht von ihrer moralischen und rechtlichen Verantwortung entbunden sind, einfach die Augen zu verschließen und so zu tun, als ob dieser entsetzliche Missbrauch auf ihren Plattformen nicht stattfände.“

WhatsApp, ein Ende-zu-Ende-verschlüsselter Dienst, nutzt beispielsweise verschiedene Verhaltenssignale, um unverschlüsselte Teile seiner Dienste zu erkennen und zu melden. Dazu gehören Profil- und Gruppenchatnamen sowie bestimmte Symbole, die bekanntermaßen Kinderpornografie darstellen, wie etwa „Käse-Pizza-Emojis“. Dank dieses proaktiven Ansatzes kann WhatsApp jährlich 1,3 Millionen Fälle von sexuellem Missbrauch und Ausbeutung von Kindern melden.

Herausfordernde Deepfake-Kinderpornografie

Die entworfenen Standards erstrecken sich auch auf kinderpornografisches Material und terroristische Propaganda, die mithilfe von Open-Source-Software und generativer KI erstellt werden. Ein alarmierender Trend in Australien ist,dentsogenannte „Deepfake-Pornos“ ihrer Mitschüler erstellen und diese im schulischen Umfeld teilen. Polizeipräsidentin Inman Grant äußerte ihre Besorgnis: „Über unsere Hotlines werden uns vermehrt synthetisches kinderpornografisches Material gemeldet. Dies ist besonders besorgniserregend für unsere Kollegen bei den Strafverfolgungsbehörden, da diese viel Zeit mit derdentvon Opfern verbringen, um missbrauchte Kinder zu schützen.“

Sie betonte, wie wichtig es sei, die regulatorische Kontrolle bereits in die Entwicklungsphase dieser Technologien , um wirksame Schutzmechanismen zu gewährleisten und die Verbreitung schädlicher Inhalte zu verhindern. Kommissarin Inman Grant erklärte: „Wenn wir die Wirksamkeit und Robustheit dieser Schutzmechanismen nicht schon in der Entwicklungsphase einbauen und testen, spielen wir, sobald die Technologien im Umlauf sind und sich verbreiten, im Grunde nur noch ein endloses und letztlich aussichtsloses Katz-und-Maus-Spiel.“

Öffentliche Konsultation und Umsetzung

Das Büro des eSafety Commissioner hat eine 31-tägige öffentliche Konsultationsphase für den Entwurf der Normen eingeleitet. Im Anschluss daran werden die endgültigen Fassungen der Normen dem Bundesparlament vorgelegt und sollen sechs Monate nach ihrer Registrierung in Kraft treten.

Die Standards schreiben nicht nur eine strengere Inhaltsmoderation vor, sondern verpflichten Technologieunternehmen auch dazu, ausreichend Ressourcen und Personal für Vertrauens- und Sicherheitsmaßnahmen bereitzustellen. 

Kommissar Inman Grant erklärte: „Inhaltsmoderation ist unmöglich, wenn man nicht in Personal, Richtlinien, Prozesse und Technologien investiert. Man kann nicht alles haben. Wenn man nicht nach Kindesmissbrauch sucht, aber gleichzeitig keine Möglichkeit für die Öffentlichkeit bietet, solche Fälle auf den eigenen Plattformen zu melden, dann ignoriert man faktisch cake , die sich live auf der Plattform ereignen.“

Die Einführung dieser Standards folgt einemdent mit dem Social-Media-Riesen X (ehemals Twitter), der sich weigerte, eine vom eSafety Commissioner verhängte Geldstrafe in Höhe von 610.500 US-Dollar zu zahlen. Grund dafür war der Vorwurf, dass X auf seiner Plattform nicht ausreichend gegen kinderpornografisches Material vorgegangen war. X hat beim Bundesgericht einen Antrag auf gerichtliche Überprüfung eingereicht. Das Büro von Commissioner Inman Grant prüft weiterhin die Optionen im Hinblick auf die Nichteinhaltung der Meldepflicht durch X Corp, äußert sich jedoch nicht zu laufenden Gerichtsverfahren.

In einer Zeit, in der die Technologie die Verbreitung schädlicher Inhalte verstärkt hat, ist Australiens wegweisender Schritt zur Etablierung umfassender Branchenstandards ein bedeutender Fortschritt für die Sicherheit im Internet, insbesondere für Kinder und schutzbedürftige Personen. Während diese Standards öffentlich diskutiert und schließlich umgesetzt werden, wird die Welt genau beobachten, ob andere Länder Australiens Beispiel im Kampf gegen Online-Kindesmissbrauch und terroristische Inhalte folgen.