Roblox, Alphabet, OpenAI et Discord lèvent 27 millions de dollars pour des outils open source de sécurité en ligne destinés aux enfants
- Roblox, avec Alphabet Inc., OpenAI et Discord, se sont associés pour lever plus de 27 millions de dollars afin d'améliorer la sécurité en ligne des enfants.
- Cette initiative vise à développer des outils gratuits et open source qui répondent à l'urgence d'innover dans le domaine de la sécurité en ligne des enfants.
- Les outils en cours de développement utiliseront l'intelligence artificielle pour améliorer l'accessibilité des technologies de base de protection des enfants en ligne.
Google, OpenAI, Roblox et Discord s'unissent pour œuvrer collectivement au bien de la société en formant récemment une nouvelle organisation à but non lucratif visant à améliorer la sécurité des enfants en ligne.
L'initiative, connue sous le nom de Robust Open Online Safety Tools (ROOST), s'efforcera de rendre les technologies de sécurité fondamentales plus accessibles aux entreprises tout en fournissant des outils d'IA open source gratuits pour identifier, examiner et signaler les matériaux d'abus sexuel sur les enfants.
L'abus sexuel sur les enfants est une épidémie mondiale qui continue de prospérer dans les espaces en ligne malgré les efforts pour l'enrayer. Ces derniers temps, de nombreux utilisateurs d'applications et même des législateurs ont suggéré que les créateurs d'applications comme Mark Zuckerberg de Meta assument la responsabilité des dommages causés par leurs produits, en particulier en ce qui concerne la pornographie infantile et les abus sexuels.
L'initiative répond à un besoin critique
L'initiative conjointe se produit en partie en réponse aux changements que les avancées de l'IA générative ont apportés aux environnements en ligne. Fondatrice ROOST et ancien PDG de Google, Eric Schmidt, déclare que l'initiative souhaite répondre à « un besoin critique d'accélérer l'innovation dans la sécurité en ligne des enfants ».
Pour l'instant, les détails sur les outils de détection des CSAM ne sont pas encore entièrement disponibles. Cependant, nous savons qu'ils utiliseront de grands modèles d'IA linguistique et « unifieront » les options existantes pour traiter ce type de contenu.
« En commençant par une plateforme axée sur la protection de l'enfance, l'approche collaborative et open source de ROOST favorisera l'innovation et rendra l'infrastructure essentielle plus transparente, accessible et inclusive, avec pour objectif de créer un internet plus sûr pour tous », a déclaré Schmidt.
Comme indiqué précédemment, l'annonce de ROOST coïncide avec une poussée réglementaire en cours concernant la sécurité des enfants sur les réseaux sociaux et les plateformes en ligne. Les entreprises cherchent désormais à apaiser les législateurs en colère avec la proposition d'auto-régulation.
ROOST s'associera aux principaux développeurs de modèles de base d'IA pour atteindre son objectif
Selon le Centre national pour les enfants disparus et exploités (NCMEC), les soupçons d'exploitation d'enfants ont augmenté de 12 % entre 2022 et 2023. En 2020, plus de la moitié des enfants américains étaient sur Roblox, et l'entreprise a essuyé de vives critiques à plusieurs reprises pour son incapacité à lutter contre l'exploitation sexuelle des enfants et l'exposition à des contenus inappropriés sur sa plateforme.
Les membres fondateurs de ROOST, avec toutes leurs ressources, fourniront divers financements et offriront leurs outils ou leur expertise au projet au fur et à mesure de son développement. L'initiative a également indiqué qu'elle s'associerait aux principaux développeurs de modèles de base d'IA pour créer une « communauté de pratique » pour les sauvegardes de contenu. Cela inclura la fourniture de jeux de données d'entraînement d'IA validés et l'identification des lacunes en matière de sécurité.
L'initiative rendra également les « outils qui existent déjà » plus accessibles, combinant efficacement diverses technologies de détection et de signalement de ses organisations membres en une solution unifiée que d'autres entreprises pourront mettre en œuvre plus facilement.
Roblox et Discord s'efforcent de rénover leur réputation
Avec Roblox, Discord a également été visé dans un procès pour diffamation sur les réseaux sociaux déposé en 2022, qui alléguait que la plateforme ne faisait rien pour empêcher les adultes de contacter des enfants sans surveillance.
Naren Koneru, vice-président de l'ingénierie, de la confiance et de la sécurité chez Roblox, a déclaré que ROOST pourrait héberger des systèmes de modération IA que les entreprises peuvent intégrer via des appels API. Cependant, il y a une certaine ambiguïté quant à la couverture des outils de modération IA de ROOST.
Par exemple, Discord indique que ses contributions s'appuieront sur le projet de partage d'informations interplateformes Lantern auquel il a adhéré en 2023 aux côtés de Meta et Google. Mais cela pourrait également inclure une version mise à jour du modèle d'IA de Roblox pour détecter la vulgarité, le racisme, l'intimidation, le sexting et d'autres contenus inappropriés dans les extraits audio, que l'entreprise prévoit de publier en open source cette année.
On verra comment ces outils interagiront avec les systèmes de détection CSAM de première ligne déjà existants, comme l'outil d'analyse d'images PhotoDNA de Microsoft.
En plus de faire partie de ROOST, Discord a également lancé une nouvelle fonctionnalité « Ignorer » qui permet aux utilisateurs de masquer les messages et les notifications qu'ils reçoivent sans en informer les personnes qu'ils ont mises en sourdine.
« Chez Discord, nous croyons que la sécurité est un bien commun », a partagé Clint Smith, directeur juridique de Discord, dans l'annonce de ROOST. « Nous nous engageons à rendre l'ensemble d'Internet – pas seulement Discord – meilleur et plus sûr, en particulier pour les jeunes. »
À ce stade, l'initiative a levé plus de 27 millions de dollars qui couvriront ses quatre premières années d'exploitation, avec le soutien d'organisations philanthropiques telles que la Fondation McGovern, le Fonds pour la confiance et la sécurité en ligne futures, la Fondation Knight et l'IA Collaborative.
L'organisation ROOST bénéficiera également du soutien d'experts en sécurité des enfants, en intelligence artificielle, technologie open source, et « lutte contre l'extrémisme violent ». Il s'agit essentiellement de la convergence des grands esprits de la technologie travaillant ensemble pour enrayer l'abus sexuel sur les enfants et la manière dont son contenu se propage dans le monde. Et comme il est open source, des mises à jour et des améliorations continues par la communauté mondiale des développeurs peuvent être apportées, ce qui signifie que la bête ROOST sur le point de naître continuera d'évoluer au fil du temps.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
