마이크로소프트는 미국 경찰이 Azure OpenAI 서비스에서 실행되는 생성형 AI 서비스를 이용하는 것을 금지했습니다. 이는 수요일에 업데이트된 서비스 약관에 포함된 새로운 접근 방식으로, 법 집행 분야에서 AI가 직면한 윤리적 딜레마에 대한 해답을 제시하고자 합니다.
정책 업데이트에서 윤리적 문제점이 부각되었습니다
개정된 약관은 미국 내 경찰 기관이 해당 통합 기능을 "사용하거나 경찰 기관을 위해" 사용할 수 없도록 명시적으로 규정하고 있습니다. 이러한 제한은 텍스트 및 음성 분석 모델에도 적용되어 마이크로소프트가 책임감 있는 AI 사용을 강조하고 있음을 보여줍니다. 추가 규정으로, 통제되지 않은 환경에서 바디캠 및 블랙박스를 포함한 모바일 카메라에 실시간 얼굴 인식 기술을 사용하는 것을 구체적으로 금지하는 별도의 조항이 도입되었습니다.
이러한 움직임의 원인은 최근 기술 산업의 발전에서dent수 있을 것입니다. 군사 및 법 집행 분야 전문 기술 기업으로 잘 알려진 액손(Axon)은 최근 오픈아이디(OpenAI)의 음성 분석 모델과 GPT-4 생성 텍스트를 활용하여 바디캠에 녹음된 음성을 요약해주는 제품을 발표했습니다. 하지만 생성된 허위 정보와 훈련 데이터에 나타난 인종 편견의 문제점이 지적되면서 일부 비판론자들의 우려가 즉시 제기되었습니다.
함의 및 해석의 여지
이번 정책 개정은 마이크로소프트의 결정적인 입장이지만, 여전히 해석의 여지는 남아 있습니다. Azure OpenAI 서비스 사용 금지는 국제적인 배포가 계속되는 가운데 미국 경찰에만 적용됩니다. 또한, 안면 인식 기술 사용 제한은 미국 법 집행 기관의 사용에만 적용되며, 통제된 환경의 고정 카메라 사용은 제외됩니다.
이처럼 균형 잡힌 방법론은 법 집행 및 국방 분야에서 마이크로소프트의 광범위한 AI 전략과 잘 부합합니다. 한편, 특정 용도에 대한 금지에도 불구하고, 국방부를 비롯한 정부 기관과 오픈AI 간의 협력이 서서히 증가하고 있습니다. 이러한 파트너십은 군사 기술 분야에서 AI 응용 프로그램을 모색하는 마이크로소프트뿐만 아니라 오픈AI 역시 입장이 변화하고 있음을 보여줍니다.
정부 참여 및 산업 동향
마이크로소프트 도입이 가속화되고 있는데, 이는 Azure Government에 법 집행 기관의 사용 사례에 맞는 추가적인 규정 준수 및 관리 도구가 포함되었기 때문입니다. 마이크로소프트 연방 사업부 수석 부사장인 캔디스 링은 dent 로부터 Azure OpenAI 서비스에 대한 추가 승인을 받는 데 주력할 예정이며, 이는 해당 플랫폼이 긴급 임무에도 유용하게 사용될 수 있음을 보여줍니다.
인공지능 윤리와 규제라는 역동적인 분야는 기술 기업들이 사전에 신중한 조치를 취해야 할 필요성을 야기합니다. 마이크로소프트가 법 집행에 인공지능을 사용하지 않기로 한 결정은 인공지능 도입에 있어 책임성과 투명성을 높이려는 업계 전반의 경향을 보여줍니다. 인공지능 규제 논의 과정에서 기술 제공업체, 정책 입안자, 그리고 시민단체들은 새롭게 대두되는 문제들을 윤리적으로 해결하기 위해 협력해야 할 것입니다.
마이크로소프트가 미국 경찰청의 특정 시나리오에 대한 Azure OpenAI 서비스 사용을 중단시킨 것은 AI 배포 윤리 문제에 대한 회사의 신중하고 집중적인 접근 방식을 보여주는 증거입니다. 실제로 이번 조치는 정책 입안자들의 진정성과 이러한 균형을 맞추는 데 따르는 복잡성을 드러냅니다. 윤리적 AI에 대한 논의가 진화함에 따라 관련 이해관계자들은 책임감 있는 AI 성장과 제공을 위해 건설적인 대화에 지속적으로 참여해야 합니다.
