Meta, 인스타그램 AI 이미지 추출 도구 서비스 중단… AI 기반 유사성 분석의 한계를 시험 중

Meta는 출시 3일 만에 다른 사용자의 프로필 사진을 기반으로 인공지능(AI)을 이용해 이미지를 생성할 수 있도록 했던 인스타그램 기능을 삭제했습니다. 이번 기능 삭제 결정은 인공지능 시대에 동의와 이미지 사용에 대한 우려가 커지고 있음을 보여줍니다.

이번 백trac킹 사건은 메타가 생성형 AI 분야에서 오픈AI와 구글을 따라잡으려는 노력에 있어 초기 차질을 빚게 했습니다. 뮤즈 이미지 모델은 여전히 ​​사용 가능하지만, 크리에이터, 공연자, ​​그리고 개인정보 보호 옹호자들의 비판에 따라 메타는 이미지 생성 요청에서 공개 인스타그램 프로필을 기반으로 이미지를 생성하는 옵션을 삭제했습니다.

메타가 구축한 것과 되돌린 것

메타는 7월 7일, 알렉산드르 왕이 이끄는 슈퍼인텔리전스 연구소의 첫 번째 제품인 AI 기반 이미지 생성 도구 '뮤즈 이미지(Muse Image)'를 공개했습니다. 이 새로운 기술은 인스타그램에서 30가지 효과를 구현할 수 있으며, 메타의 자체 테스트 결과에 따르면 구글 나노 바나나 2를 능가하고 챗GPT의 이미지 생성기에 이어 두 번째로 우수한 성능을 보인다고 합니다.

이번 논란은 모델 자체보다는 사용자가 업로드한 이미지를 처리하는 방식에 초점을 맞췄습니다. 사용자는 자신의 성인용 공개 인스타그램 계정을 태그하면 해당 계정의 공개 이미지를 AI가 생성한 사진에 사용할 수 있었습니다. 18세 미만 사용자와 비공개 계정은 시스템에서 제외되었지만, 성인용 공개 계정은 사용자가 직접 비활성화하지 않는 한matic으로 등록되었습니다.

메타에 따르면, 이 기능의 목적은 사용자에게 "공개 콘텐츠가 참조될 수 있는지 여부를 제어할 수 있는 권한"을 부여하는 것이었습니다. 그러나 많은 비평가들은 정반대의 의견을 제시합니다. 선택 해제 시스템을 도입하는 것은 동의가 기본적으로 주어진 것으로 간주하는 것과 마찬가지라는 것입니다.

그 결과, 금요일이 되자 회사는 생각을 바꿨습니다.

메타 관계자는 버라이어티와의 인터뷰에서 " 이 기능이 기대에 미치지 못한다는 피드백을 받았기 때문에 더 이상 제공하지 않기로 했다"고 밝혔습니다

창작자들과 안전 단체들이 그trac바꾸도록 압력을 가했다

해당 기능은 출시 직후 곧바로 비판을 받았습니다. 미국 배우 조합(SAG-AFTRA)은 회원들에게 해당 기능을 끄도록 권고하며, "본인의 초상권을 보호하기 위한 조치를 취하라"고 경고했습니다

톰 행크스와 메릴 스트립 등을 대리하는 연예 기획사 CAA(크리에이티브 아티스트 에이전시)는 메타 측과 직접 접촉했으며, 인공지능 시스템이 명시적인 동의 없이 개인의 이름, 이미지, 초상, 목소리를 절대 사용해서는 안 된다고 밝혔다.

한편, 사생활 옹호자들은 이 기술이 신분 도용, 동의 없는 성적 이미지 유포, 온라인 사기 등을 더 쉽게 만들 수 있다고 경고했습니다. 성 착취 방지 전국 센터의 헤일리 맥나마라는 더 버지와의 인터뷰에서 개인이 선택적으로 거부할 수 있다는 개념이 기업의 책임을 기술 사용자에게로 옮겨놓았다고 말했습니다.

이번 분쟁은 인공지능 초상권 사용을 둘러싼 법적 공방을 부각시킨다

이번 논란은 인공지능 업계가 직면한 더 광범위한 질문을 부각시킨다. 사진을 공개적으로 게시하는 것이 기업에게 해당 사진을 생성형 인공지능에 사용할 권리를 부여하는 것일까?

이 주제는 유럽 개인정보보호법과 점점 더 밀접하게 연관되고 있습니다. 일반 데이터 보호 규정(GDPR) defi있으며, 이는 조직이 제6조에 따라 그러한 데이터를 처리하기 위한 법적 근거를 마련해야 함을 의미합니다.

개인의 동의를 얻어야 할 필요가 있는 경우, 제7조는 동의가 자유롭고 구체적이며 충분한 정보를 바탕으로 이루어져야 한다고 규정합니다. 제9조는 생체 정보 처리 시 개인을 고유하게dent하기 위해 더 높은 수준의 책임성을 요구해야 한다고 명시합니다. 또한 제12조부터 제14조까지는 조직이 개인 정보의 사용 방식을 설명하여 개인이 정보 사용에 대해 더 잘 알 수 있도록 해야 한다고 규정합니다.

규제 당국은 전통적인 개인정보 보호 규정을 넘어 규제 범위를 확대하고 있습니다. EU 인공지능법(AI Act) 은 콘텐츠 제공업체가 딥페이크와 같은 AI 기술을 사용하여 콘텐츠를 제작하거나 보강한 경우 이를 대중에게 알리도록 요구합니다. 이러한 요구 사항의 목적은 합성 미디어의 사용을 전면 금지하는 것이 아니라, 합성 미디어에 대한 투명성을 확보하는 것입니다.

하지만 이러한 문제에 직면한 회사는 메타뿐만이 아닙니다. 불과 몇 달 전, 오픈아이언(OpenAI)은 공개적으로 이용 가능한 이미지를 사용한 것에 대한 비난 여론 때문에 소라(Sora) 비디오 모델에서 유사한 선택 해제 옵션을 제거해야 했습니다.

이러한 조치들은 규제 기관과 개발자들이 누군가의 초상을 조작하기 전에 명확한 동의를 얻는 데 쏟는 관심 때문에 AI 기술 개발자들이 더욱 어려운 문제에 직면하고 있음을 확인시켜 줍니다.

이 문제에 대한 논의는 이미 입법 단계로 접어들었습니다. 캘리포니아주는 생존 또는 사망한 공연자의 AI 생성 이미지를 상업적으로 이용하기 전에 허가를 받도록 하는 두 개의 법안(AB 2602 및 AB 1836)을 통과시켰습니다.

이 법률들은 인공지능이 소비자 영역에 적용될 수 있는지 여부보다는 엔터테인먼트 계약에 더 초점을 맞추고 있을 수 있지만, 그럼에도 불구하고 인공지능으로 생성된 이미지를 누구나 자유롭게 사용할 수 있는 것으로 간주하기보다는 허가가 필요한 것으로 여기는 경향을 보여줍니다.

투자자들은 이러한 소란에 전혀 동요하지 않는 듯 보입니다. 의 이전 보도 Cryptopolitan 에 따르면 , 메타 주가는 출시 당일(7월 7일) 615.58달러로 마감했는데, 이는 당일 2.55% 상승한 수치이며 한 달 만에 최고 종가입니다.

하지만 콘텐츠 공개가 사용자들이 이를 AI 개발에 활용할 수 있도록 허용하는지에 대한 의문은 여전히 ​​남아 있습니다. 실제로 메타의 최근 결정이 AI 시장의 더 넓은 추세를 반영한다면, 단순히 콘텐츠를 공개하는 것만으로는 다른 사람들이 AI에 활용할 권리가 전혀 주어지지 않습니다. 동시에, 업계와 공공기관 모두에서 동의를 요구하는 사례가 늘어남에 따라, 소비자용 AI 제품 개발에 있어 동의가 중요한 역할을 할 것이라는 점이 분명해지고 있습니다.