전문가들은 Grok AI가 X 플랫폼에서 인종차별적 학대 이미지를 유포하는 것에 대해 경고했습니다

전문가들은 X의 Grok AI가 제작한 인종차별적 학대 이미지가 12월에 플랫폼을 휩쓸었던 것에 대해 우려를 표명하고 경고했습니다.

온라인 혐오를 trac하고 신고하기 위해 유명 스포츠 단체 및 클럽과 협력하는 조직인 Signify에 따르면, 특히 가까운 시일 내에 인터넷과 해당 플랫폼에서 혐오 이미지가 급증할 것으로 예상됩니다.

Grok 업데이트 이후 학대 이미지들이 X에 쏟아졌다

따르면 가디언지에, Grok AI가 업데이트된 후 인종차별적인 이미지를 생성했다는 여러 건의 보도가 나왔는데, 여기에는 축구 선수와 감독을 실사처럼 묘사한 인종차별적 이미지들이 포함됩니다. 이미지 중 하나는 흑인 선수가 목화를 따는 모습을, 또 다른 하나는 선수가 바나나를 먹으며 원숭이들에게 둘러싸인 모습을 묘사하고 있습니다.

다른 사진들에는 여러 선수와 감독들이 오사마 빈 라덴, 아돌프 히틀러, 사담 후세인과 같은 논란이 많은 역사적 인물들을 만나 대화를 나누는 모습이 담겨 있습니다.

Signify는 Grok AI를 이용해 제작된 컴퓨터 생성 이미지가 X 플랫폼에 급증하고 있는 현상에 우려를 표명했습니다. Signify는 이러한 추세에 대해 우려하며, 실사 AI 기술의 발전으로 이러한 이미지의 제작이 더욱 쉬워지고 확산될 것으로 예상하여 소셜 미디어에서 이러한 이미지가 더욱 많이 등장할 것이라고 보고 있습니다.

"지금도 문제지만, 이는 앞으로 닥칠 문제의 시작에 불과합니다. 상황은 훨씬 더 악화될 것이며, 이제 막 시작 단계일 뿐입니다. 앞으로 12개월 동안 상황이 엄청나게 심각해질 것으로 예상합니다."

의미하다.

X의 생성형 AI 도구는 2023년 일론 머스크에 의해 출시되었습니다. 최근에는 사용자의 간단한 입력에 따라 실사 같은 AI 이미지를 생성하는 '오로라(Aurora)'라는 새로운 텍스트 이미지 변환 기능을 추가했습니다.

앞서 플럭스(Flux)라는 이름의 덜 발전된 버전 역시 올해 초 다른 유사 소프트웨어에서는 볼 수 없는 행위를 하는 것으로 드러나 논란을 일으켰다고 가디언지는 보도했습니다. 이러한 행위에는 저작권이 있는 캐릭터나 유명 인사를 부적절한 상황에 묘사하거나, 마약을 복용하게 하거나, 폭력 행위를 저지르게 하는 것 등이 포함됩니다.

X는 증오를 조장하는 플랫폼으로 변모했다

디지털 혐오 대응 센터(CCDH)의 연구 책임자인 칼럼 후드는 X 플랫폼이 혐오를 조장하는 플랫폼이라고 비난했습니다. 후드는 X가 수익 공유를 통해 혐오 확산을 장려하고 보상하는 플랫폼이 되었으며, AI 이미지 기술 덕분에 그 어느 때보다 쉽게 ​​혐오를 퍼뜨릴 수 있게 되었다고 말했습니다.

"X 플랫폼이 다른 어떤 주류 플랫폼도 하지 않은 일을 한 것은, 이러한 행위를 하는 계정에 cash 인센티브를 제공한 것입니다. 그래서 X 플랫폼의 계정들은 의도적으로 가장 노골적인 혐오와 허위 정보를 게시하고 있습니다."

후드.

전문가들은 사용자가 생성형 AI에게 무엇을 만들어내도록 요청할 수 있는지에 대한 제한이 상대적으로 부족하여 Grok이 "탈옥"을 통해 AI의 지침을 너무 쉽게 우회할 수 있다는 점에 우려를 표명했습니다

CCDH 보고서에 따르면, 다양한 혐오 발언을 입력받았을 때 AI 모델은 그중 90%를 생성했으며, 30%는 반박 없이 생성되었습니다. 또한 탈옥 후에는 추가로 50%를 생성했습니다.

프리미어 리그는 축구 선수들의 인종차별적 행위 이미지에 대해 알고 있었다고 인정했습니다. 또한 선수들을 향한 인종차별적 행위를 찾아내고 신고하기 위해 전담팀을 구성했으며, 이러한 행위는 법적 조치로 이어질 수 있다고 밝혔습니다.

축구 협회는 2024년에 1,500건 이상의 악성 댓글 신고를 접수했으며, 선수들이 소셜 미디어 계정에서 악성 댓글을 차단하는 데 사용할 수 있는 필터 기능을 도입했다고 밝혔습니다.

"차별은 우리 축구계는 물론 더 넓은 사회에서도 설 자리가 없습니다. 우리는 소셜 미디어 기업과 관련 당국이 온라인상의 악용 행위를 근절하고 이러한 용납할 수 없는 행위를 저지르는 사람들에게 조치를 취할 것을 계속해서 촉구합니다."라고 잉글랜드 축구협회(FA) 대변인이 밝혔습니다.