Meta, Instagram AI 이미지 도구 중단, AI 초상권 스캐핑 한계 시험

출시仅仅 3일 만에 메타는 다른 사용자의 프로필 사진을 기반으로 AI가 이미지를 생성할 수 있는 인스타그램 기능을 제거했습니다. 이 기능을 제거하기로 한 회사의 결정은 인공지능 시대에 동의 및 이미지 사용에 대한 우려가 커지고 있음을 보여줍니다.

이러한 후퇴는 메타가 생성형 AI 분야에서 오픈AI와 구글을 따라잡기 위해 기울인 노력의 초기 실패입니다. Muse 이미지 모델은 여전히 사용 가능하지만, 크리에이터, 배우 및 개인정보 보호 옹호자들의 비판 이후 회사는 이미지 생성 요청에서 공개 인스타그램 프로필을 기반으로 이미지를 생성하는 옵션을 폐기했습니다.

메타가 구축한 것과 철회한 것

메타는 7월 7일 알렉산드르 왕이 이끄는 슈퍼인텔리전스 랩의 첫 번째 제품인 새로운 AI 기반 이미지 생성 도구인 Muse Image를 공개했습니다. 이 새로운 기술은 인스타그램에서 30가지 효과를 구동하며, 메타의 내부 테스트에 따르면 구글의 Nano Banana 2를 능가하고 ChatGPT의 이미지 생성기에만 뒤처지는 것으로 나타났습니다.

분쟁의 초점은 모델 자체보다는 사용자가 업로드한 이미지를 처리하는 방식에 있었습니다. 사용자는 성인 공개 인스타그램 계정에 태그를 달면, 이 계정에서 공개된 이미지를 AI 생성 사진에 사용할 수 있었습니다. 18세 미만의 사용자와 비공개 계정은 시스템에서 제외되었으며, 사용자가 수동으로 비활성화하지 않는 한 성인 공개 계정은 자동으로 등록되었습니다.

메타에 따르면 이 기능의 목적은 사용자에게 “공개 콘텐츠가 참조될 수 있는지 여부를 통제할 수 있는 권한”을 부여하는 것이었습니다. 그러나 많은 비판자들은 정반대의 의견을 제시합니다. 옵트아웃 시스템을 도입한다는 것은 기본적으로 동의를 부여한다는 전제를 의미한다는 것입니다.

결과적으로 금요일까지 회사는 입장을 바꿨습니다.

메타의 한 대표는 버라이어티에 “우리는 이 기능이 기대에 미치지 못했다는 피드백을 들었으며, 따라서 더 이상 제공되지 않습니다”라고 밝혔습니다.

크리에이터 및 안전 단체들이 후퇴를 강요했습니다

이 기능은 출시 직후 거의 즉각적인 비판을 받았습니다. 배우 조합인 Screen Actors Guild–American Federation of Television and Radio Artists(SAG-AFTRA)는 구성원들에게 이 기능을 끄라고 조언하며 아티스트들에게 “자신의 외모를 보호하기 위해 조치를 취하라”고 경고했습니다.

톰 행크스와 메릴 스트립 등을 대표하는 인재 에이전시인 Creative Artists Agency, LLC(CAA)는 메타와 직접 접촉 중이며, 명시적인 동의 없이 AI 시스템이 사람의 이름, 이미지, 외모 및 음성을 사용해서는 안 된다고 밝혔습니다.

한편, 개인정보 보호 옹호자들은 이 기술이 사칭, 동의 없는 친밀한 이미지 유포 및 온라인 사기를 더 쉽게 만들 수 있다고 경고했습니다. National Center on Sexual Exploitation의 Haley McNamara는 더 버지(The Verge)와의 인터뷰에서 개인이 옵트아웃하는 개념이 책임 소재를 기술 기업에서 기술 사용자로 전환시켰다고 말했습니다.

이 분쟁은 AI 외모를 둘러싼 법적 투쟁을 부각시킵니다

이 논란은 AI 산업이 직면한 더 넓은 질문을 부각시킵니다: 사진을 공개적으로 게시하는 것이 기업에게 생성형 AI에 이를 사용할 권리를 부여합니까?

이 주제는 유럽의 개인정보 보호법과 점점 더 밀접하게 연결되고 있습니다. 일반 데이터 보호 규정(GDPR)은 사람의 이미지를 개인정보로 정의하며, 이는 조직이 제6조에 따라 이러한 데이터를 처리할 법적 근거를 찾아야 함을 의미합니다.

개인의 동의를 얻어야 할 필요가 있는 경우, 제7조에 따르면 동의는 자발적이고 구체적이며 정보에 기반한 것이어야 합니다. 제9조는 생체정보 처리가 개인을 고유하게 식별하기 위해 더 많은 책임을 요구해야 한다고 명시합니다. 제12-14조 또한 조직이 개인정보를 어떻게 사용하는지 설명하여 개인이 그 사용에 대해 더 잘 인식하도록 해야 한다고 규정합니다.

규제당국도 전통적인 개인정보 보호 규칙을 넘어 초점을 확대하고 있습니다. EU AI Act는 딥페이크와 같은 AI 기술을 사용하여 생성되거나 보강된 콘텐츠가 있는 경우 제공자가 대중에게 알리도록 요구합니다. 이 요구사항의 목적은 이러한 기술의 사용을 전면 금지하는 대신 합성 미디어에 대한 투명성을 제공하는 것입니다.

하지만 메타만이 이 문제에 직면한 것은 아닙니다. 몇 달 전 오픈AI는 공개적으로 이용 가능한 이미지의 사용과 관련하여 받은 반발로 인해 Sora 비디오 모델에서 유사한 옵트아웃 옵션을 제거해야 했습니다.

이러한 개입들은 규제당국과 크리에이터들이 누군가의 외모를 조작하기 전에 동의가 명확하게 이루어지도록 하는 데 집중함에 따라 AI 기술 개발자들이 더 어려운 도전에 직면하고 있음을 확인시켜 줍니다.

이 문제에 대한 논의는 이미 입법 영역으로 넘어갔습니다. 캘리포니아주는 생존하거나 사망한 배우의 AI 생성 이미지를 상업적으로 사용하기 전에 허가를 요구하는 두 개의 법안, AB 2602 및 AB 1836을 통과시켰습니다.

이 법들은 엔터테인먼트 계약보다는 소비자 영역에서 AI의 적용 가능성에 더 관련이 있을 수 있지만, 그럼에도 불구하고 AI 외모를 아무나 사용할 수 있는 것으로 presuming하기보다는 허가가 필요한 것으로 간주하려는 경향을 나타냅니다.

투자자들은 모든 소동에 영향을 받지 않는 것 같습니다. 크립토폴리탄의 이전 보고서에 따르면, 메타 주가는 출시 당일(7월 7일) 615.58달러에 마감했으며, 이는 당일 기준 2.55% 상승한 것으로 한 달 동안 가장 높은 마감가입니다.

그럼에도 불구하고, 콘텐츠의 공개가 사용자로 하여금 AI 개발에 이를 활용할 수 있게 하는지에 대한 질문은 여전히 남아 있습니다. 실제로 메타의 최근 결정이 AI 시장의 더 넓은 추세를 반영한다면, 단순히 무언가를 공개한다고 해서 다른 사람이 AI에서 이를 사용할 권리가 생기는 것은 아닙니다. 동시에, 산업계와 공공 기관 모두에서 동의가 점점 더 요구되고 있는 만큼, 소비자용 새로운 AI 제품 개발에서 동의가 중요한 역할을 하게 될 것임이 분명해지고 있습니다.