마이크로소프트는 자신의 인공지능(AI) 서비스를 남용하고 있다고 주장하는 그룹에 대한 소송을 제기했습니다. 마이크로소프트에 따르면, 이름이 알려지지 않은 이 그룹은 자신의 AI 제품들의 안전 가드레일을 우회하는 데 사용한 도구를 개발했습니다. 제출된 고발장에는 10명의 이름이 알려지지 않은 개인들로 구성된 그룹이 사용자 자격 증명을 도용했다고 alleged되어 있습니다.
오와투운세 아데바요
3분 읽기
- Microsoft는 Azure OpenAI 서비스를 남용한 개인들을 상대로 소송을 제기했습니다.
- Microsoft는 해당 단체가 불법 활동을 저지르며 여러 연방법을 위반했다고 주장했습니다.
- 동사는 해당 취약점을 보완했으며 구제책과 손해배상을 요구하고 있다고 발표했습니다.
마이크로소프트, 서비스 남용에 대한 고발장 제출
제출된 서류에 따르면, 마이크로소프트는 사용자들이 일부 사용자를 통해 API 키에 불법적으로 접근했다는 사실을 발견했습니다. 마이크로소프트는 키를 획득한 정확한 경로는 알 수 없지만 피고인들이 키를 도용했다고 강력히 믿는다고 주장했습니다. “본 고발장에 기술된 부정을 수행하는 데 사용된 모든 API 키를 피고인들이 획득한 정확한 방식은 알려지지 않았으나, 피고인들이 다수의 마이크로소프트 고객으로부터 마이크로소프트 API 키를 도용할 수 있게 해준 체계적인 API 키 도용 패턴에 관여한 것으로 보입니다,”라고 서면은 전했습니다.
고발장에서 마이크로소프트는 법률상 가명 'Does'로 지칭되는 피고인들이 컴퓨터 사기 및 남용법(Digital Millennium Copyright Act의 일부 법률)을 위반했다고 강조했습니다. 또한 회사는 개인들이 소프트웨어와 서버에 불법적으로 접근하여 해롭고 불법적인 콘텐츠를 생성함으로써 연방 racketeering 법을 위반했다고 주장했습니다.
그러나 마이크로소프트는 해롭고 불법적이라고 주장한 콘텐츠의 세부 사항에 대해서는 언급하기를 거부했습니다. 회사는 고발장에서 2024년 7월 일부 Azure OpenAI API 키(앱이나 사용자를 승인하는 데 사용되는 문자열)를 가진 사용자들이 회사의 허용 사용 정책과 일치하지 않는 콘텐츠를 생성하는 데 불법적으로 사용되고 있다는 사실을 발견했다고 강조했습니다.
법적 판결과 향후 해결책
마이크로소프트에 따르면, 피고인들은 특히 미국 사용자를 표적으로 삼았으며, 이 그룹은 도용된 Azure OpenAI 서비스 API 키를 사용하여 '해킹-어-서비스'라고 부르는 계획을 수립했습니다. 고발장에는 피고인들이 클라이언트 측에서 작동하는 De3u라는 도구를 만들었다고 언급되어 있습니다. 또한 De3u의 통신을 회사의 시스템으로 처리하고 라우팅하는 또 다른 소프트웨어를 만들었습니다.
마이크로소프트 소유의 GitHub에 게시되었던 De3u 코드가 포함된 레포지토리는 작성 시점까지 제거되었습니다. 마이크로소프트는 도용된 Azure OpenAI 서비스 API 키와 도구들의 조합이 피고인들이 콘텐츠 조치를 우회할 수 있게 했다고 지적했습니다. “이러한 기능들은 피고인들이 Azure OpenAI 서비스에 대한 불법적인 프로그래밍식 API 접근을 통해 마이크로소프트의 콘텐츠 및 남용 조치를 우회하는 방법을 리버스 엔지니어링할 수 있게 했습니다,”라고 회사는 말했습니다.
회사는 De3u가 도용된 API 자격 증명을 활용하여 OpenAI 서비스 중 하나인 DALL-E를 사용하여 이미지를 생성할 수 있게 했다고 지적했습니다. 그러나 흥미로운 점은 사용자가 자체 코드를 작성하지 않고도 이를 수행할 수 있다는 것입니다. 제출된 서류에는 또한 De3u가 Azure OpenAI 서비스에서 이미지 생성에 사용되는 프롬프트 검토를 방해하려고 시도했다고 주장했습니다. 고발장에는 프롬프트에 플랫폼의 콘텐츠 필터링 시스템을 트리거하는 단어가 포함된 경우에만 이러한 일이 발생한다고 언급되어 있습니다.
한편, 회사는 최근 블로그 게시물에서 법원이 피고인들의 운영에 필수적인 웹사이트 압수를 승인했다고 언급했습니다. 마이크로소프트는 이 기회를 활용하여 증거를 수집하고 서비스가 어떻게 수익화되고 있는지 파악하여 남아있는 기술 인프라를 제거할 계획입니다. 회사는 Azure OpenAI 서비스에 대한 새로운 안전 조치 등을 포함하여 구멍을 막기 위한 조치를 취했다고 언급했습니다. 회사는 또한 금지 및 기타 형평적 구제책과 손해배상을구하고 있습니다.
마이크로소프트에 따르면, 이름이 알려지지 않은 이 그룹은 자신의 AI 제품들의 안전 가드레일을 우회하는 데 사용한 도구를 개발했습니다.
한편, 회사는 최근 블로그 게시글에서 법원이 피고들의 운영에 필수적인 웹사이트 압류 청구를 승인했다고 밝혔습니다. 마이크로소프트는 이 기회를 활용해 증거를 수집하고 해당 서비스가 어떻게 수익화되고 있는지 파악하여 남아 있는 모든 기술적 인프라를 제거할 계획입니다. 회사는 간극을 막기 위한 조치를 취했으며, Azure OpenAI 서비스의 새로운 안전 조치를 언급했습니다. 회사는 또한 금지 명령 및 기타衡平법적 구제책과 손해배상을 구하고 있습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
오와투운세 아데바요
아데바요(Adebayo)는 암호화폐 분야에서 4년간의 경력을 가진 작가입니다. 그는 라고스 대학교에서 도시 및 지역 계획을 전공하고 졸업했으며, 토큰헬(Tokenhell)과 크립토티커(CryptoTicker)에서 암호화폐 및 핀테크 뉴스를 작성했습니다. 현재 그는 크립토폴리탄(Cryptopolitan)의 뉴스 기여자입니다.
