Australiens neue Standards zur Bekämpfung von Online-Schäden

In einer bahnbrechenden Bewegung hat Australiens eSafety Commissioner, Julie Inman Grant, weltweit erste Industriestandards vorgestellt, die darauf abzielen, große Tech-Unternehmen, darunter Apple, Google und Meta, zu umfassenderen Maßnahmen zur Bekämpfung der weit verbreiteten Probleme mit online verbreitetem sexuellem Missbrauchsmaterial an Kindern und pro-terroristischem Inhalt auf ihren Plattformen zu verpflichten. Diese Standards erstrecken sich auch auf die Bekämpfung der beunruhigenden Entstehung von „Deepfake“-Kinderpornografie, die mit generativer KI erstellt wurde.

Nach mehr als zwei Jahren intensiver Bemühungen und der Ablehnung von Entwurfskodes, die von der Tech-Branche vorgeschlagen wurden, hat Commissioner Inman Grant nun Entwurfsstandards veröffentlicht, die für cloudbasierte Speicherdienste wie Apple iCloud, Google Drive und Microsoft OneDrive sowie für Messaging-Plattformen wie WhatsApp gelten. Das Ziel ist es, diese Unternehmen zu intensiveren Bemühungen zu zwingen, unrechtmäßige Inhalte von ihren Diensten zu beseitigen.

Globale Auswirkungen erwartet

Commissioner Inman Grant, die zuvor eine Position als Executive bei Twitter innehatte, hofft, dass diese australischen Industriestandards als Präzedenzfall für ähnliche Vorschriften weltweit dienen werden, um das allgegenwärtige Problem schädlicher Inhalte anzugehen. Es ist wichtig zu beachten, dass diese Anforderungen Tech-Unternehmen nicht zwingen werden, ihre eigene Ende-zu-Ende-Verschlüsselung zu kompromittieren, die bei einigen Diensten wie WhatsApp standardmäßig aktiviert ist.

Zwar haben große Tech-Plattformen Richtlinien, die die Verbreitung von sexuellem Missbrauchsmaterial an Kindern auf ihren öffentlichen Diensten verbieten, doch ist Commissioner Inman Grant der Ansicht, dass diese Unternehmen nicht genug getan haben, um ihre eigenen Plattformen zu überwachen. Sie präziserte: „Wir verstehen die Probleme hinsichtlich der technischen Machbarkeit, und wir bitten sie nicht, etwas zu tun, das technisch unmöglich ist. Aber wir sagen auch, dass Sie nicht von der moralischen und rechtlichen Verantwortung befreit sind, einfach die Lichter auszumachen oder die Tür zuzumachen und so zu tun, als würde diese schreckliche Misshandlung nicht auf Ihren Plattformen stattfinden.“

Zum Beispiel employs WhatsApp, ein Ende-zu-Ende verschlüsselter Dienst, verschiedene Verhaltenssignale, um nicht-verschlüsselte Teile seiner Dienste zu erkennen und zu melden, einschließlich Profil- und Gruppen-Chat-Namen sowie bestimmter Symbole, die bekanntermaßen Kinderpornografie darstellen, wie „Käse-Pizza-Emojis“. Dieser proaktive Ansatz ermöglicht es WhatsApp, jährlich 1,3 Millionen Fälle von sexuellem Missbrauch und Ausbeutung von Kindern zu melden.

Herausforderung von Deepfake-Kinderpornografie

Die entworfenen Standards erstrecken ihren Geltungsbereich auch auf sexuelles Missbrauchsmaterial an Kindern und terroristische Propaganda, die mit Open-Source-Software und generativer KI erstellt wurden. Ein beunruhigender Trend in Australien beinhaltet, dass Schüler „Deepfake-Pornografie“ von ihren Mitschülern erstellen und diese in Bildungseinrichtungen teilen. Commissioner Inman Grant äußerte ihre Besorgnis und sagte: „Wir sehen, dass synthetisches sexuelles Missbrauchsmaterial an Kindern über unsere Hotlines gemeldet wird, und das ist besonders besorgniserregend für unsere Kollegen in den Strafverfolgungsbehörden, da sie viel Zeit damit verbringen, Opfer zu identifizieren, um tatsächlich Kinder zu retten, die missbraucht werden.“

Sie betonte die Wichtigkeit, regulatorische Aufsicht in die Designphase dieser Technologien zu integrieren, um robuste Schutzmaßnahmen zu gewährleisten und die Verbreitung schädlicher Inhalte zu verhindern. Laut Commissioner Inman Grant: „Wenn wir die Wirksamkeit und Robustheit dieser Schutzvorkehrungen nicht in der Designphase einbauen und testen, sondern sie erst einmal in die Wildnis entlassen und sie sich replizieren, dann spielen wir wahrscheinlich ein endloses und etwas hoffnungsloses Spiel des Whack-a-Mole.“

Öffentliche Konsultation und Umsetzung

Das Büro des eSafety Commissioners hat eine Phase der öffentlichen Konsultation für die Entwurfsstandards eingeleitet, die 31 Tage dauern wird. Nach diesem Zeitraum werden die endgültigen Versionen der Standards im föderalen Parlament vorgelegt und sollen sechs Monate nach ihrer Registrierung in Kraft treten.

Die Standards verpflichten nicht nur zu strengeren Inhaltsmoderationen, sondern verlangen auch von Tech-Unternehmen, ausreichende Ressourcen und Personal für Vertrauens- und Sicherheitsbemühungen bereitzustellen. 

Commissioner Inman Grant erklärte: „Sie können keine Inhaltsmoderation durchführen, wenn Sie nicht in dieses Personal, diese Richtlinien, Prozesse und Technologien investieren. Und man kann den Kuchen nicht haben und auch essen. Wenn Sie nicht nach sexuellem Missbrauchsmaterial an Kindern scannen, aber dann keine Möglichkeit bieten, dass die Öffentlichkeit Sie darüber informiert, wenn sie dies auf Ihren Diensten vorfindet, dann blenden Sie effektiv Live-Kriminalitätsszenen auf Ihrer Plattform aus.“

Die Einführung dieser Standards folgt auf einen kürzlichen Vorfall mit dem Social-Media-Riesen X, ehemals bekannt als Twitter, der sich weigerte, eine Geldstrafe in Höhe von 610.500 US-Dollar zu zahlen, die vom eSafety Commissioner verhängt wurde, weil X angeblich nicht angemessen mit sexuellem Missbrauchsmaterial auf seiner Plattform umgegangen war. X hat einen Antrag auf gerichtliche Überprüfung beim Bundesgericht eingereicht. Das Büro von Commissioner Inman Grant bewertet weiterhin seine Optionen im Hinblick auf die Nichteinhaltung der Meldepflicht durch X Corp., äußert sich jedoch nicht zu laufenden Rechtsverfahren.

In einer Ära, in der Technologie die Verbreitung schädlicher Inhalte verstärkt hat, signalisiert Australiens Pionierarbeit bei der Einführung umfassender Industriestandards einen bedeutenden Schritt hin zur Gewährleistung der Sicherheit von Online-Räumen, insbesondere für Kinder und schutzbedürftige Personen. Während diese Standards der öffentlichen Konsultation unterzogen und schließlich umgesetzt werden, wird die Welt genau beobachten, ob andere Nationen Australien in der Bekämpfung von online verbreitetem sexuellem Missbrauch an Kindern und pro-terroristischem Inhalt folgen.