- Windows 와 같은 인기 소프트웨어에 통합된 Microsoft 의 AI 가 disturbing 하고 폭력적인 이미지를 생성하여 안전성에 대한 우려를 제기하고 있습니다.
- 특히 Image Creator 에서 이 AI 는 '딥페이크' 이미지, 즉 다양한 집단에 대한 목 잘리기와 폭력을 포함하는 이미지의 생성을 허용했다는 비난을 받고 있습니다.
- 안전 조치에 대한 주장에도 불구하고 Microsoft 는 사용자에게 책임을 전가하는 모습을 보이며, 이는 자사 AI 의 의도치 않은 사용에 대한 책임 소재가 불분명할 수 있음을 시사합니다.
소름 끼치는 revelations에 따르면, 안전하고 일상적인 소프트웨어에 통합되었다고 홍보되는 마이크로소프트의 인공지능이 잔혹하고 폭력적인 이미지를 생성한다는 이유로 감시받고 있습니다. 우려의 중심에는 마이크로소프트의 빙(Bing)의 일부이며 최근 널리 사용되는 윈도우 페인트에 추가된 이미지 크리에이터(Image Creator)가 있습니다. 마이크로소프트의 파트너인 오픈AI의 DALL-E 3로 알려진 이 기술은 이제 그 안전성과 제작자들의 책임성에 대해 질문을 받고 있습니다.
마이크로소프트 vs '킬 프롬프트(kill prompt)'
불쾌한 이미지들은 AI가 도발적이고 때로는 저속한 이미지를 생성하는 능력을 탐구하는 온라인 커뮤니티에 관여한 캐나다 예술가 조시 맥더피(Josh McDuffie)에 의해 세상에 알려졌습니다. 10월, 맥더피와 그의 동료들은 오픈AI의 최신 기술을 통합한 빙의 이미지 크리에이터를 포함한 마이크로소프트의 AI에 집중했습니다. 마이크로소프트는 해로운 이미지 생성을 방지하기 위한 통제 장치가 있다고 주장하지만, 맥더피는 상당한 구멍들을 발견했습니다.
마이크로소프트는 해로운 이미지 생성을 방지하기 위해 두 가지 전략을 사용합니다. 입력(Input)은 인터넷 데이터로 AI를 훈련시키는 것이고, 출력(Output)은 특정 콘텐츠의 생성을 막기 위한 가드레일을 만드는 것입니다. 실험을 통해 맥더피는 AI가 폭력적인 이미지를 생성할 수 있게 해주는 특정 프롬프트, 즉 '킬 프롬프트'를 발견했습니다. 이는 마이크로소프트의 안전 조치의 효능에 대한 우려를 불러일으켰습니다.
맥더피가 마이크로소프트의 AI 버그 바운티 프로그램을 통해 이 문제에 대한 관심을 끌기 위해 노력했지만, 그의 제출물은 거부되었습니다. 이는 회사의 잠재적 보안 취약점에 대한 대응성에 의문을 제기합니다. 거부 이메일은 보안 취약점에 대한 마이크로소프트의 요구 사항을 충족하지 못했다는 점을 인용하며, 맥더피를 낙담시키고 시스템의 잠재적 결함을 드러냈습니다.
마이크로소프트, AI 감독에서 실수
AI 버그 바운티 프로그램의 출범에도 불구하고, 마이크로소프트의 맥더피의 발견에 대한 대응은 만족스럽지 못했습니다. '킬 프롬프트' 제출물의 거부와 보고된 우려 사항에 대한 조치 부재는 문제의 긴급성에 대한 잠재적 무시를 강조합니다. 한편, AI는 맥더피의 원래 프롬프트에 일부 수정이 가해진 후에도 불쾌한 이미지를 계속 생성했습니다.
마이크로소프트의 구체적인 조치 부재는 회사의 책임 있는 AI에 대한 헌신에 대한 우려를 제기합니다. 마이크로소프트가 부분적으로 소유한 오픈AI를 포함한 다른 AI 경쟁사들과의 비교는 다양한 회사들이 유사한 문제를 어떻게 다루는지에 대한 격차를 드러냅니다. 마이크로소프트의 반복적인 실패는 책임 있는 AI 개발에 대한 공개적 약속에도 불구하고 AI 가드레일 우선순위에서 잠재적 격차를 신호합니다.
윤리적 AI 개발을 위한 모델
마이크로소프트가 신속하고 효과적인 조치를 취하려는 망설임은 회사의 AI 안전 접근 방식에서 빨간 신호를 나타냅니다. 맥더피의 '킬 프롬프트' 실험은 오픈AI를 포함한 다른 AI 경쟁사들, 심지어 작은 스타트업들도 유사한 프롬프트에 기반한 해로운 이미지 생성을 거부했다는 것을 보여주었습니다. 마이크로소프트의 파트너인 오픈AI조차 맥더피의 프롬프트를 차단하기 위한 조치를 구현했으며, 이는 강력한 안전 메커니즘의 필요성을 강조합니다.
사용자들이 AI를 '의도된 방식이 아닌' 방식으로 사용하려고 시도하고 있다는 마이크로소프트의 주장은 잠재적 기술 결함을 인정하기보다는 개인에게 책임을 전가합니다. 포토샵과의 비교와 해로운 콘텐츠 생성을 자제해야 한다는 주장은 과거의 패턴을 연상시키며, 이는 기술의 오용을 해결하는 데 struggle하는 소셜 미디어 플랫폼들을 떠올리게 합니다.
마이크로소프트가 생성형 AI가 만들어낸 불쾌한 이미지들의 여파와 씨름하는 가운데, 회사가 자신의 기술의 책임 있는 사용을 보장하기 위해 충분히 노력하고 있는지에 대한 의문이 남습니다. 이 문제를 적시에 효과적으로 해결하려는 명백한 망설임은 책임 소재와 AI 가드레일 우선순위에 대한 우려를 제기합니다. 사회가 진화하는 인공지능의 지형을 탐색하는 동안, 책임은 사용자뿐만 아니라 기술의 윤리적이고 안전한 배포를 보장해야 하는 기술 거대 기업들에게도 있습니다. 마이크로소프트는 인공지능의 영역에서 혁신과 책임 사이의 격차를 어떻게 메꿀 수 있을까요?
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
아미르 셰이크
아미르는 암호화폐 및 테크 산업에서 약 6 년간의 경험을 가진 기술 저널리스트입니다. 그는 MAJ 대학교에서 재무 및 마케팅 MBA 학위를 취득했으며, 현재 Cryptopolitan 에서 근무하며 암호화폐 시장의 최신 동향과 가격 예측을 보도하고 있습니다.
