마이크로소프트 엔지니어가 AI 도구가 폭력적이고 선정적인 이미지를 생성하는 것에 대해 우려를 제기했습니다

마이크로소프트의 한 엔지니어가 자사의 AI 이미지 생성기가 저작권법을 무시하고 폭력적이고 선정적인 콘텐츠를 생성할 가능성이 있다고 경고하며 우려를 표명했습니다. 마이크로소프트의 수석 소프트웨어 엔지니어링 매니저인 셰인 존스는 여가 시간에 코파일럿 디자이너(Copilot Designer)라는 제품을 직접 테스트해 왔습니다. 그는 악마 이미지뿐만 아니라 낙태, 미성년자 음주, 마약 사용과 같은 주제를 다룬 충격적인 이미지들을 발견했으며, 이 문제를 상급 기관에 보고하기로 했습니다.

존스의 우려와 그에 따른 조치

마이크로소프트에서 6년간 근무한 존스는 AI 기술의 취약점을dent레드팀 요원으로서 코파일럿 디자이너(Copilot Designer) 테스트를 시작했습니다. 그는 해당 도구가 생성한 이미지가 안전하지 않고 잠재적으로 유해하다고 판단하여 마이크로소프트에 내부 보고를 했지만, 회사는 단호한 조치를 취하는 데 소극적이었습니다. 존스는 링크드인에 공개 서한을 게시하고 미국 상원의원들에게 연락하는 등 우려를 제기하기 위해 노력했지만, 결국 문제를 더 큰 규모로 제기해야겠다고 생각했습니다.

미국 연방거래위원회(FTC) 위원장 및 마이크로소프트 이사회에 문제 제기

존스는 코파일럿 디자이너와 관련된 지속적인 문제들을 해결하기 위해 연방거래위원회(FTC) 위원장 리나 칸과 마이크로소프트 이사회에 서한을 보냈습니다. 그는 FTC에 해당 사안에 대한 조사를 촉구하고, 마이크로소프트에 제품에 대한 고지 사항을 추가하고 앱 등급을 성인 콘텐츠에 맞게 조정하는 등의 개선 조치를 취할 것을 요구했습니다. 또한 존스는 마이크로소프트 이사회가 회사의 책임 있는 AIdent 보고 절차에 대한 독립적dent 검토를 시작할 것을 요청했습니다.

생성형 인공지능에 대한 우려와 감독 부족

존스의 행동은 생성형 AI 기술을 둘러싼 감독 부족에 대한 광범위한 우려를 부각합니다. 특히 다가오는 선거를 고려할 때 유해 콘텐츠가 광범위하게 확산될 가능성이 있는 만큼, 존스는 더욱 엄격한 안전장치가 시급히 필요하다고 강조합니다. 그는 코파일럿 팀이 매일 수많은 제품 피드백 메시지를 받고 있으며, 모든 문제를 신속하게 해결하는 데 상당한 어려움이 있다고 지적합니다.

저작권 침해 및 콘텐츠 문제

폭력적이고 선정적인 이미지를 생성하는 것 외에도, Copilot Designer는 저작권 침해 문제에 대한 우려를 불러일으킵니다. 이 도구가 디즈니의 엘사나 스타워즈 캐릭터와 같은 저작권이 있는 캐릭터를 사용한 이미지를 생성하는 것이 확인되었으며, 이는 저작권법과 마이크로소프트의 정책을 모두 위반할 가능성이 있습니다. 존스는 이 문제가 저작권 침해를 넘어 유해하고 불쾌한 이미지가 전 세계적으로 유포되는 더 광범위한 영향을 미친다고 강조합니다.

셰인 존스가 마이크로소프트의 AI 이미지 생성기를 둘러싼 우려를 해소하기 위해 기울인 노력은 생성형 AI 분야에서 강력한 감독과 규제의 필요성이 점점 더 커지고 있음을 보여줍니다. 그의 행동은 규제 당국과 기술 기업 모두에게 AI 기술의 안전하고 윤리적인 사용을 최우선 과제로 삼아야 한다는 강력한 촉구입니다.