마이크로소프트는 자사의 인공지능(AI) 서비스를 악용한 혐의로 한 단체를 상대로 소송을 제기했습니다. 마이크로소프트에 따르면, 익명의 해당 단체는 자사 AI 제품의 안전장치를 우회하는 도구를 개발했다고 합니다. 소장에 따르면, 10명으로 구성된 이 단체는 사용자dent증명을 탈취한 혐의를 받고 있습니다.
마이크로소프트는 피고들이 도난당한 사용자 dent 주장했습니다 . 마이크로소프트는 OpenAI의 모회사인 ChatGPT가 개발한 클라우드 서비스를 관리하고 있습니다. 마이크로소프트는 피고들이 여러 법률을 위반했으며, 그중 하나가 소송 제기의 근거가 되었다고 주장했습니다.
마이크로소프트는 자사 서비스 남용에 대한 항의서를 제출했습니다
마이크로소프트는 소장에서 피고인들(법적 가명으로 'Does'라고 지칭)이 디지털 밀레니엄 저작권법(DMCA)에 따른 컴퓨터 사기 및 남용 방지법을 위반했다고 강조했습니다. 또한, 피고인들이 자사의 소프트웨어와 서버에 불법적으로 접근하고 이를 이용해 유해하고 불법적인 콘텐츠를 제작함으로써 연방 갈취법을 위반했다고 주장했습니다.
하지만 마이크로소프트는 유해하고 불법적인 콘텐츠라고 주장하는 내용에 대한 자세한 설명을 거부했습니다. 마이크로소프트는 소장에서 2024년 7월, 앱이나 사용자를 승인하는 데 사용되는 문자열인 Azure OpenAI API 키를 가진 일부 사용자가 자사의 허용 가능한 사용 정책에 부합하지 않는 콘텐츠를 생성하는 데 불법적으로 이용되고 있음을 발견했다고 밝혔습니다.
소장에 따르면 마이크로소프트는 사용자들이 일부 사용자를 통해 불법적으로 API 키를 입수했음을 발견했습니다. 마이크로소프트는 성명에서 API 키를 획득한 정확한 경로는 알 수 없지만, 피고들이 키를 훔쳤다고 강력하게 믿는다고 밝혔습니다 tron "이 소장에 기술된 부정행위를 실행하는 데 사용된 모든 API 키를 피고들이 어떻게 획득했는지 정확한 경로는 알 수 없지만, 피고들은 여러 마이크로소프트 고객으로부터 마이크로소프트 API 키를 훔칠 수 있도록 조직적인 API 키 절도 행태를 보인 것으로 보입니다 matic "라고 성명은 밝혔습니다.
법적 판결 및 향후 해결책
마이크로소프트에 따르면, 피고인들은 특히 미국 사용자들을 표적으로 삼았으며, 탈취한 Azure OpenAI 서비스 API 키를 이용해 '서비스형 해킹(hacking-as-a-service)'이라는 방식을 사용했다고 주장했습니다. 소장에는 피고인들이 클라이언트 측에서 작동하는 De3u라는 도구를 개발했으며, De3u에서 마이크로소프트 시스템으로 통신을 처리하고 전달하는 또 다른 소프트웨어도 개발했다고 명시되어 있습니다.
해당 업체는 De3u가 도난당한 API 자격 증명을 활용하여 사용자들이 OpenAI 서비스 중 하나인 DALL-E를 통해 이미지를 생성할 수 있도록 했다고 지적했습니다 dent 하지만 특이한 점은 사용자들이 자체 코드를 작성하지 않고도 이미지를 생성할 수 있다는 것입니다. 또한, De3u는 Azure OpenAI 서비스가 이미지 생성에 사용되는 프롬프트를 검토하지 못하도록 막으려 했다는 주장도 제기되었습니다. 소장에 따르면, 이러한 검토는 프롬프트에 플랫폼의 콘텐츠 필터링 시스템을 작동시키는 단어가 포함된 경우에만 이루어집니다.
마이크로소프트 소유의 깃허브에 있던 De3u 코드가 포함된 저장소는 이 글을 작성하는 시점에서 삭제되었습니다. 마이크로소프트는 도난당한 Azure OpenAI 서비스 API 키와 해당 도구들을 결합하여 피고인들이 자사의 콘텐츠 보호 조치를 우회할 수 있었다고 밝혔습니다. 마이크로소프트는 "이러한 기능들은 피고인들이 Azure OpenAI 서비스에 대한 불법적인 프로그램matic API 접근과 결합되어 마이크로소프트의 콘텐츠 및 악용 방지 조치를 우회하는 방법을 역설계할 수 있도록 했습니다."라고 설명했습니다.
한편, 마이크로소프트는 최근 블로그 게시물을 법원이 피고의 운영에 필수적인 웹사이트를 압류해 달라는 요청을 승인했다고 밝혔습니다. 마이크로소프트는 이번 기회를 통해 증거를 수집하고 서비스 수익화 방식을 파악하여 남아 있는 기술 인프라를 모두 제거할 계획입니다. 또한, 마이크로소프트는 Azure OpenAI 서비스에 대한 새로운 보안 조치를 포함하여 이러한 공백을 메우기 위한 조치를 취했다고 밝혔습니다. 더불어, 마이크로소프트는 금지 명령 및 기타 형평법상 구제 조치와 손해 배상을 청구하고 있습니다.
