Roblox, Alphabet, OpenAI und Discord sammeln 27 Millionen US-Dollar für Open-Source-Tools zur Online-Kindersicherheit
- Roblox hat sich zusammen mit Alphabet Inc., OpenAI und Discord zusammengeschlossen, um über 27 Millionen US-Dollar für die Verbesserung der Online-Kindersicherheit zu sammeln.
- Die Initiative zielt darauf ab, kostenlose Open-Source-Tools zu entwickeln, die den dringenden Bedarf an Innovationen im Bereich der Online-Kindersicherheit fördern.
- Die entwickelten Tools werden KI nutzen, um die Zugänglichkeit von Kern-Sicherheitstechnologien zum Schutz von Kindern im Internet zu verbessern.
Google, OpenAI, Roblox und Discord schließen sich zusammen, um etwas Gutes für die Gesellschaft zu tun, indem sie kürzlich eine neue gemeinnützige Organisation gegründet haben, die darauf abzielt, die Kindersicherheit im Internet zu verbessern.
Die Initiative ist als Robust Open Online Safety Tools (ROOST) bekannt und wird darauf hinarbeiten, sicherheitsrelevante Kerntechnologien für Unternehmen zugänglicher zu machen sowie kostenlose, Open-Source-KI-Tools zur Identifizierung, Überprüfung und Meldung von sexuellem Missbrauchsmaterial an Kindern bereitzustellen.
Sexueller Missbrauch von Kindern ist eine weltweite Epidemie, die sich trotz der Bemühungen, sie einzudämmen, in Online-Räumen weiterhin ausbreitet. In letzter Zeit haben viele App-Nutzer und sogar Gesetzgeber vorgeschlagen, dass App-Ersteller wie Mark Zuckerberg von Meta die Verantwortung für den Schaden übernehmen, den ihre Produkte verursachen, insbesondere im Zusammenhang mit Kinderpornografie und sexuellem Missbrauch.
Die Initiative adressiert ein kritisches Bedürfnis
Die gemeinsame Initiative erfolgt teilweise als Reaktion auf die Veränderungen, die die Fortschritte in der generativen KI in Online-Umgebungen bewirkt haben. Gründungs ROOST Partner und ehemaliger Google-CEO Eric Schmidt sagt, dass die Initiative „ein kritisches Bedürfnis adressieren“ will, „die Innovation in der Online-Kindersicherheit zu beschleunigen.“
Derzeit sind Details zu den CSAM-Erkennungstools noch nicht vollständig verfügbar. Wir wissen jedoch, dass sie große Sprach-KI-Modelle nutzen und „bestehende Optionen“ zur Behandlung der Inhalte vereinheitlichen werden.
„Beginnend mit einer Plattform, die auf Kinderschutz fokussiert ist, wird ROOSTs kollaborativer, Open-Source-Ansatz Innovation fördern und essentielle Infrastruktur transparenter, zugänglicher und inklusiver machen, mit dem Ziel, ein sichereres Internet für alle zu schaffen“, so Schmidt.
Wie zuvor erwähnt, fällt die ROOST-Ankündigung mit einem laufenden regulatorischen Druck bezüglich der Kindersicherheit in sozialen Medien und Online-Plattformen zusammen. Unternehmen versuchen nun, die gesetzgeberische Front durch den Vorschlag der Selbstregulierung zu besänftigen.
ROOST wird mit führenden Entwicklern von KI-Grundmodellen zusammenarbeiten, um sein Ziel zu erreichen
Laut dem National Center for Missing and Exploited Children (NCMEC) stiegen die Verdachtsfälle auf Kindesausbeutung zwischen 2022 und 2023 um 12 %. Seit 2020 waren mehr als die Hälfte der US-Kinder auf Roblox , und das Unternehmen hat wiederholt starke Kritik dafür erhalten, dass es versäumt hat, sexuellen Missbrauch von Kindern und die Exposition gegenüber unangemessenen Inhalten auf seiner Plattform anzugehen.
Die Gründungsmitglieder von ROOST werden mit all ihren Ressourcen unterschiedlich Finanzmittel bereitstellen und ihre Tools oder Expertise in das Projekt einbringen, während es Gestalt annimmt. Die Initiative hat auch erklärt, dass sie mit führenden Entwicklern von KI-Grundmodellen zusammenarbeiten wird, um eine „Community of Practice“ für Inhaltsschutzmaßnahmen aufzubauen. Dazu werden validierte KI-Trainingsdatensätze bereitgestellt und Lücken im Bereich der Sicherheit identifiziert.
Die Initiative wird auch „bereits existierende Tools“ zugänglicher machen und effektiv verschiedene Erkennungs- und Reporting-Technologien ihrer Mitgliedsorganisationen zu einer einheitlichen Lösung kombinieren, die andere Unternehmen leichter implementieren können.
Roblox und Discord arbeiten daran, ihren Ruf zu verbessern
Zusammen mit Roblox Discord wurde auch in einer 2022 eingereichten Social-Media-Klage herausgegriffen, die behauptete, die Plattformen hätten nichts unternommen, um zu verhindern, dass Erwachsene Kinder ohne Aufsicht anschreiben.
Naren Koneru, Roblox’ Vizepräsident für Ingenieurwesen, Vertrauen und Sicherheit, hat gesagt, dass ROOST möglicherweise KI-Moderationssysteme hosten könnte, die Unternehmen über API-Aufrufe integrieren können. Es gibt jedoch einige Unklarheiten darüber, was ROOSTs KI-Moderationstools abdecken werden.
Zum Beispiel sagt Discord, dass seine Beiträge auf dem 2023 gestarteten plattformübergreifenden Informationsaustauschprojekt Lantern aufbauen werden, dem es sich mit Meta und Google angeschlossen hat. Es könnte jedoch auch eine aktualisierte Version von Roblox’ KI-Modell zur Erkennung von Obszönitäten, Rassismus, Mobbing, Sexting und anderen unangemessenen Inhalten in Audio-Clips umfassen, das das Unternehmen plant, noch in diesem Jahr als Open-Source zu veröffentlichen.
Es bleibt abzuwarten, wie die Tools mit bereits bestehenden First-Line-CSAM-Erkennungssystemen wie Microsofts PhotoDNA-Bildanalyse-Tool zusammenwirken.
Neben der Teilnahme an ROOST Discord hat Discord auch eine neue „Ignorieren“-Funktion veröffentlicht, die es Nutzern ermöglicht, Nachrichten und Benachrichtigungen, die sie erhalten, auszublenden, ohne die Personen zu benachrichtigen, die sie stummgeschaltet haben.
„Bei Discord glauben wir, dass Sicherheit ein Gemeingut ist“, teilte Clints Smith, Chief Legal Officer von Discord, in der ROOST-Ankündigung mit. „Wir sind bestrebt, das gesamte Internet – nicht nur Discord – zu einem besseren und sichereren Ort zu machen, insbesondere für junge Menschen.“
Derzeit hat die Initiative mehr als 27 Millionen US-Dollar gesammelt, die die ersten vier Betriebsjahre finanzieren werden, unterstützt von philanthropischen Organisationen wie der McGovern Foundation, dem Future of Online Trust and Safety Fund, der Knight Foundation und dem AI Collaborative.
Die ROOST-Organisation wird auch die Unterstützung von Experten in den Bereichen Kindersicherheit, künstliche Intelligenz, Open-Source-Technologie und „Bekämpfung von gewalttätigem Extremismus“ erhalten. Es ist im Wesentlichen die Krönung der Bemühungen großer Köpfe der Tech-Branche, gemeinsam den sexuellen Missbrauch von Kindern und die Verbreitung seiner Inhalte weltweit einzudämmen. Und da es Open-Source ist, können kontinuierliche Updates und Verbesserungen durch die globale Entwickler-Community vorgenommen werden, was bedeutet, dass das Monster ROOST, das bald entstehen wird, im Laufe der Zeit weiterentwickelt wird.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.
