마이크로소프트의 AI 딜레마 – 안전해 보이지만, 불안감을 조성하는 이미지를 만들어내는가?

소름 끼치는 사실이 드러났습니다. 안전하다고 홍보되며 일상 소프트웨어에 통합되어 온 마이크로소프트의 인공지능이 끔찍하고 폭력적인 이미지를 생성하는 것으로 밝혀져 조사를 받고 있습니다. 문제는 마이크로소프트의 빙(Bing) 검색 엔진에 포함되어 최근 널리 사용되는 윈도우 페인트에 추가된 이미지 생성기(Image Creator)에 있습니다. 마이크로소프트의 파트너사인 오픈AI가 개발한 DALL-E 3라는 이 기술은 안전성과 개발자의 책임에 대한 의문이 제기되고 있습니다.

마이크로소프트 대 '종료 프롬프트'

충격적인 이미지는 인공지능(AI)이 자극적이고 때로는 저속한 이미지를 생성하는 능력을 탐구하는 온라인 커뮤니티에 참여하는 캐나다 예술가 조쉬 맥더피에 의해 세상에 알려졌습니다. 지난 10월, 맥더피와 그의 동료들은 마이크로소프트의 AI, 특히 오픈AI의 최신 기술이 적용된 빙(Bing) 이미지 생성기에 집중했습니다. 마이크로소프트는 유해한 이미지 생성을 막기 위한 제어 장치를 갖추고 있다고 주장하지만, 맥더피는 상당한 허점을 발견했습니다.

마이크로소프트는 유해 이미지 생성을 방지하기 위해 두 가지 전략을 사용합니다. 하나는 인터넷 데이터를 이용해 AI를 학습시키는 입력 방식이고, 다른 하나는 특정 콘텐츠 생성을 막는 안전장치를 마련하는 출력 방식입니다. 맥더피는 실험을 통해 "킬 프롬프트"라고 불리는 특정 프롬프트가 AI가 폭력적인 이미지를 생성하도록 허용하는 것을 발견했습니다. 이는 마이크로소프트의 안전 조치 효과에 대한 우려를 불러일으켰습니다.

맥더피는 마이크로소프트의 AI 버그 바운티 프로그램을 통해 이 문제에 대한 관심을 불러일으키려 노력했지만, 그의 제보는 거부당했습니다. 이는 마이크로소프트가 잠재적인 보안 취약점에 얼마나 적극적으로 대응하는지에 대한 의문을 제기했습니다. 거부 이메일에는 마이크로소프트가 요구하는 보안 취약점 요건을 충족하지 못했다는 내용이 담겨 있었고, 이는 맥더피를 낙담하게 했으며 시스템의 잠재적 결함을 부각시켰습니다.

마이크로소프트, AI 관리 감독에서 부진

AI 버그 현상금 프로그램을 시작했음에도 불구하고, 마이크로소프트는 맥더피의 발견에 대해 만족스럽지 못한 반응을 보였습니다. "프롬프트 삭제" 제보를 거부하고 보고된 문제점에 대한 조치를 취하지 않은 것은 문제의 시급성을 제대로 인식하지 못하고 있음을 시사합니다. 게다가 맥더피의 원래 프롬프트를 일부 수정했음에도 불구하고, AI는 계속해서 불쾌한 이미지를 생성했습니다.

마이크로소프트의 구체적인 조치 부족은 책임 있는 AI에 대한 회사의 의지에 대한 우려를 불러일으킵니다. 마이크로소프트가 부분 지분을 소유한 오픈AI를 비롯한 다른 AI 경쟁업체들과 비교해 보면, 각 기업이 유사한 문제를 다루는 방식에 차이가 있음을 알 수 있습니다. 마이크로소프트가 이 문제를 해결하지 못하는 과정이 반복되는 것은 책임 있는 AI 개발에 대한 공개적인 약속에도 불구하고 AI 가이드라인을 우선시하는 데 있어 잠재적인 공백이 있음을 시사합니다.

윤리적 AI 개발 모델

마이크로소프트가 신속하고 효과적인 조치를 취하는 데 주저하는 모습은 AI 안전에 대한 회사의 접근 방식에 문제가 있음을 시사합니다. 맥더피의 "킬 프롬프트" 실험은 소규모 스타트업을 포함한 다른 AI 경쟁업체들이 유사한 프롬프트에 따라 유해한 이미지를 생성하지 않는다는 사실을 보여주었습니다. 마이크로소프트의 파트너사인 오픈AI조차도 맥더피의 프롬프트를 차단하는 조치를 시행하여 강력한 안전 메커니즘의 필요성을 강조했습니다.

마이크로소프트가 사용자들이 인공지능을 "의도하지 않은 방식으로" 사용하려 한다고 주장하는 것은 기술적 결함을 인정하기보다는 개인에게 책임을 전가하는 것입니다. 포토샵과의 비교와 유해 콘텐츠 제작 자제를 촉구하는 주장은 과거 소셜 미디어 플랫폼들이 기술 오용 문제를 해결하기 위해 고심했던 모습을 떠올리게 합니다.

마이크로소프트가 자사 AI가 생성한 충격적인 이미지로 인한 파장에 대처하는 가운데 , 과연 마이크로소프트가 자사 기술의 책임 있는 사용을 보장하기 위해 충분한 노력을 기울이고 있는지에 대한 의문이 제기되고 있습니다. 문제 해결에 신속하고 효과적으로 대응하지 않는 듯한 태도는 책임 소재와 AI 안전장치 마련의 우선순위에 대한 우려를 낳고 있습니다. 사회가 진화하는 인공지능 환경 속에서, 윤리적이고 안전한 AI 활용을 보장하는 책임은 사용자뿐 아니라 기술 대기업에도 있습니다. 마이크로소프트는 인공지능 분야에서 혁신과 책임 사이의 간극을 어떻게 메울 수 있을까요?