Google, Openai, Roblox 및 Discord는 최근 아동 안전 개선을 목표로 새로운 비영리 단체를 구성하여 사회에 집단적으로 좋은 일을하기 위해 노력하고 있습니다.
이 이니셔티브는 강력한 오픈 온라인 안전 도구 (Roost)로 알려져 있으며 회사에 핵심 안전 기술을보다 접근 할 수 있도록 노력하면서 아동 성 학대 자료를dent, 검토하고보고하고보고 할 수있는 무료 오픈 소스 AI 도구를 제공 할 수 있습니다.
아동 성희롱은 전세계 전염병으로 온라인 공간에서 계속 번성하고 있습니다. 최근에, 많은 앱 사용자와 심지어 국회의원들도 Meta의 Mark Zuckerberg와 같은 앱 제작자가 특히 아동 포르노 및 성적 학대가 관여하는 경우 제품의 피해에 대해 책임을 져야한다고 제안했습니다.
이니셔티브는 중요한 요구를 해결합니다
공동 이니셔티브는 생성 AI 발전이 온라인 환경에 대한 변화에 대응하여 부분적으로 진행되고 있습니다. 창립 Roost 파트너이자 전 Google CEO 인 Eric Schmidt는이 이니셔티브가“온라인 아동 안전 혁신을 가속화해야 할 필요성”을 해결하고자한다고 말했다.
현재 CSAM 탐지 도구에 대한 세부 정보는 아직 완전히 사용할 수 . 그러나 우리는 그들이 큰 언어 AI 모델을 활용하고 컨텐츠를 다루기위한 기존 옵션을 "통합"할 것임을 알고 있습니다.
Schmidt는“아동 보호에 중점을 둔 플랫폼을 시작으로 Roost의 공동 작업 및 오픈 소스 접근 방식은 혁신을 촉진하고 모든 사람을위한보다 안전한 인터넷을 만들기 위해 필수 인프라를보다 투명하고 접근 가능하며 포괄적으로 만들 것입니다.
앞서 언급 한 바와 같이, Roost 발표는 소셜 미디어 및 온라인 플랫폼의 아동 안전에 관한 지속적인 규제 푸시와 일치합니다. 기업들은 이제 자기 규제 제안과의 전쟁에 대해 의원들을 달래기 위해 노력하고 있습니다.
Roost는 주요 AI Foundation 모델 개발자와 파트너 관계를 맺을 것입니다.
NCMEC (National Center for Missing and Deloited Children)에 따르면, 의심되는 아동 착취는 2022 년에서 2023 년 사이에 12% 상승했습니다. 2020 년 현재 미국 어린이 중 절반 이상이 Roblox 회사는 반복적으로 큰 비판을 받았습니다. 아동 성 착취 및 플랫폼의 부적절한 콘텐츠에 대한 노출을 다루십시오.
Roost의 창립 멤버는 모든 자원을 갖춘 자금을 제공하고 프로젝트가 구체화 될 때 프로젝트에 도구 나 전문 지식을 제공 할 것입니다. 이 이니셔티브는 또한 AI Foundation Model Developers를 선도적 인 AI Foundation 모델 개발자와 제휴하여 컨텐츠 보호 수단을위한“실무 커뮤니티”를 구축 할 것이라고 밝혔다. 여기에는 심사 AI 훈련 데이터 세트를 제공하고 안전에 틈새가dent됩니다.
이 이니셔티브는 또한 "이미 존재하는 도구"를보다 쉽게 접근 할 수있게하여 다양한 탐지와 회원 조직의 기술을 다른 회사가 다른 회사가 더 쉽게 구현할 수있는 통합 솔루션으로보고 할 것입니다.
Roblox와 Discord는 평판을 개선하기 위해 노력했습니다
Roblox 와 함께 Discord는 2022 년에 제기 된 소셜 미디어 소송에서 단수를 받았으며,이 플랫폼은 성인이 감독없이 어린이들을 메시징하는 것을 막을 수 없었다고 주장했습니다.
Roblox의 엔지니어링, 신뢰 및 안전dent Naren Koneru는 Roost가 회사가 API 통화를 통해 통합 할 수있는 AI 중재 시스템을 호스팅 할 수 있다고 말했다. 그러나 Roost의 AI 중재 도구가 무엇을 다룰 것인지에 대한 모호함이 있습니다.
예를 들어, Discord는 그 기여가 2023 년 Meta 및 Google과 함께 Lantern Cross-Platform 정보 공유 프로젝트를 기반으로 할 것이라고 밝혔다. 그러나 회사는 올해 오픈 소스로 출시 할 예정인 오디오 클립의 욕설, 인종 차별, 괴롭힘, 섹스팅 및 기타 부적절한 컨텐츠를 감지하기위한 Roblox의 AI 모델 업데이트 된 버전이 포함될 수 있습니다.
Microsoft의 PhotoDNA 이미지 분석 도구와 같은 이미 기존의 1 차 CSAM 탐지 시스템과 도구가 어떻게 교차하는지 알 수 있습니다.
Roost의 일부인 외에도 Discord는 사용자가 음소거 한 사람들에게 알리지 않고받는 메시지와 알림을 숨길 수있는 새로운 "무시"기능을 출시했습니다.
Discord의 최고 법률 책임자 인 Clint Smith는 Roost 발표에서“Discord에서는 안전이 일반적인 이익이라고 생각합니다. "우리는 불화뿐만 아니라 전체 인터넷을 특히 젊은이들에게 더 좋고 안전한 곳으로 만들기 위해 노력하고 있습니다."
현재이 이니셔티브는 McGovern Foundation, Future of Online Trust and Safety Fund, Knight Foundation 및 AI Collaborative와 같은 자선 단체의 후원과 함께 첫 4 년간의 운영을 차지할 2,700 만 달러 이상을 모금했습니다.
Roost Organization은 또한 아동 안전, 인공 지능, 오픈 소스 기술 및 "폭력적인 극단주의에 반하는"전문가의 지원을받을 것입니다. 그것은 본질적으로 아동 성 학대를 억제하기 위해 함께 노력하는 기술의 위대한 마음의 정점과 그 내용이 전 세계에 어떻게 퍼지는지를 억제하는 것입니다. 또한 오픈 소스이기 때문에 글로벌 개발자 커뮤니티의 지속적인 업데이트 및 개선이 이루어질 수 있습니다. 즉, 짐승 휴양지가 시간이 지남에 따라 계속 발전 할 것입니다.
키 차이 와이어 : 비밀 도구 암호화 프로젝트는 미디어 커버리지를 보장하는 데 사용됩니다.
