전 영국 의원, 영국 법률이 Grok의 피해를 제한하지 못할 것이라고 밝힘

전 영국 의원은 영국의 법률 접근 방식이 Grok가 초래하는 피해를 줄이지 못할 것이라고 밝혔다. 이는 영국 장관들이 일론 머스크의 인공지능(AI) 챗봇인 Grok가 직면한 반발에 대응해, 동의 없는 밀착 이미지 생성을 금지하는 법안을 신속하게 처리한 이후의 일이다.

전 영국 의원에 따르면, 이 나라는 대형 기술 기업들을 규제하는 데 있어 '무모한(what-a-mole)' 접근 방식을 따르고 있습니다. 법에 대한 지지가 증가했지만, 전문가들은 이러한 변화가 생성형 AI 챗봇이 초래하는 피해를 제한하는 데 충분하지 않을 것이라고 경고했습니다. 전 노동당 부대표인 해리엇 하먼은

전 의원, 영국이 AI 규제에서 뒤처져 있다고 주장

전 영국 의원에 따르면, 이 포함해 해당국이 ‘밀착’ 이미지의 법적 분류 기준을 명확히 하지 못하고 있다. 미국에서는 입법자들이 이를 노출이나 속옷을 묘사하는 것으로 규정하고 있지만, 당내 의원들과 장관들은 Grok를 이용해 비키니와 젖은 티셔츠를 입은 여성 및 어린이의 동의 없는 이미지를 생성하는 행위가 접근 방식의 심각한 약점을 보여준다고 주장한다.

기술부 장관 리즈 켄달은 해당 법률이 누디피케이션(nudification, 의복 제거) 애플리케이션을 겨냥한 것이며 Grok에는 적용되지 않을 수도 있다고 지적했다. 더럼 대학교의 클레어 맥글린 교수에 따르면, 누디피케이션 금지 조치는 Grok를 사용한 성적인 이미지 생성 문제를 해결할 해결책이 아니며, 심지어 챗봇에는 적용되지도 않을 것이라고 지적했다. 이 죄명은 동의 없는 밀착 이미지 생성을 목적으로 개발된 애플리케이션에만 적용되도록 설계되었다.

한편, Grok는 이미지, 텍스트, 코드를 예측할 수 있는 범용 AI 모델로 간주되며, 대부분의 경우 법률의 적용 범위를 벗어날 가능성이 높다. 노동당의 치 온우라 의원에 보낸 서한에서 켄달은 Grok가 제안된 법안의 적용 대상에서 제외될 수 있다고 언급했다. 그녀는 분석 과정에서 모든 챗봇이 법률의 적용 범위에 포함되지 않는다는 점을 확인했다고 밝혔다. 그러나 그녀는 공백을 해소하기 위해 관계자들이 이를 조사하도록 지시했다고 덧붙였다.

전문가들, AI 챗봇의 위험성 경고

지난 수요일, X는 현재 불법인 지역에서 비키니, 속옷 및 유사한 의복을 입은 실제 사람의 이미지를 생성하는 기능을 지리적 차단(geoblock)하겠다고 발표하는 성명을 발표했다. 독립형 Grok 애플리케이션이나 웹사이트를 통해 유사한 이미지가 여전히 생성될 수 있을지는 미지수이다. xAI는 Grok의 모회사로서 이러한 경우가 발생할지, 또는 해당 조치가 이러한 부분에 적용될지에 대해 공개하지 않았다.

이 논의는 기술을 이용해 여성 및 소녀에 대한 폭력(VAWG)이 증가하는 우려 속에서 진행되고 있다. 보고서에 따르면, 기록된 VAWG 사건 중 약 10%가 이미 디지털 요소를 포함하고 있으며, 이는 전문가들이 실제 규모를 크게 과소평가하고 있다고 믿는 부분이다. 젊은 세대는 온라인에 더 많은 시간을 보내기 때문에 더 큰 위험에 노출되어 있다. 활동가들에 따르면, 인공지능은 해악을 가속화하는 요인이 될 수 있다.

이 단체는 또한 AI가 남용을 더 큰 규모로 생성하고 공유할 수 있다고 언급했다. 한편, 전문가들은 향후 다른 AI 챗봇 관련 논란이 발생할 가능성이 있다고 경고했다. AI 연구 기관인 아다 로블레이스 연구소의 부소장 마이클 버트윌슬은 향후 쟁점에는 챗봇이나 AI 어시스턴트가 어린이를 성적인 상호작용 대상으로 삼거나, 사용자에게 의심스러운 건강 또는 금융 조언을 제공하는 상황이 포함될 수 있다고 말했다.