일론 머스크의 AI 편애와 X의 무분별한 자동화

일론 머스크의 X 플랫폼이 이란의 이스라엘 공격 소식을 뉴스 피드 '탐색'의 첫 페이지에 게재하면서 소셜 미디어에 끔찍한 소식이 퍼졌습니다.

목요일에 X의 주요 뉴스 피드에 올라온 제목 중 하나는 다음과 같았습니다

이란, 텔아비브에 중형 미사일 공격

최근 이스라엘의 시리아 주재 이란 대사관 공격으로 고위 관리들이 사망하고 양국 간 긴장이 고조된 상황, 그리고 이스라엘의 가자지구 침공 등을 고려할 때, 이러한 소식은 상당히 우려스러운 소식이었을 것입니다. 따라서 지금은 적절한 시기가 아닐 수 있지만, 어떤 이유에서든 오해를 불러일으키는 헤드라인을 퍼뜨리려는 사람들에게는 이상적인 시기일지도 모릅니다. 인공지능(AI)이 이러한 끔찍한 행위에 악용될 수 있다는 점을 간과할 수는 없습니다. 

헤드라인은 가짜였고, 더 걱정스러운 것은 X의 공식 AI 챗봇인 Grok이 생성한 후, 해당 기능이 새 버전으로 업데이트된 날 X의 Explore 인기 뉴스 특집 페이지의 첫 화면에 게시되었다는 점입니다.

일론 머스크의 자동화 추진 – 이dent 발생한 근본적인 이유

dent의 근원을 Trac해 보면, Grok이 생성한 오해의 소지가 있는 제목은 인간이 담당하던 중요한 콘텐츠 큐레이션 작업이 아직 완전히 지능적이지 않은 인공지능으로 넘어가는 과정에서 발생한 산물이라는 것이 분명해집니다.

트위터의 전신인 X 플랫폼에는 인기 뉴스 주제에 대한 설명글을 제공하는 기능이 있었습니다. 아마도 이러한 설명은 사람이 직접 작성한 것이었을 겁니다. 트위터 알고리즘은 관련 키워드를 포착하고, 이러한 키워드 제안을 기반으로 인기 주제를 관련 트렌드에 포함시킬 수 있었습니다.

이후 트위터는 뉴스를 선별하고 트렌드를 관리하는 전담팀을 구성하여 알고리즘에 의존하지 않고 사람이 직접 참여함으로써 더욱 신뢰할 수 있는 트렌드를 만들어냈습니다. 또한 로이터, AP통신과 같은 주요 통신사와 협력하여 트렌드에 대한 사람의 시각을 강화하고 관련 맥락을 더욱 풍부하게 제공했습니다.

하지만 상황은 머스크가 2022년 트위터를 인수하고 X로 이름을 바꾸면서 바뀌었습니다. 그는 인기 뉴스에 사람이 직접 작성하던 맥락을 인공지능으로 대체했습니다. 머스크는 인공지능이 뉴스를 더 효율적으로 선별할 수 있다고 판단하여 인간 편집자 팀을 모두 해고했지만, 인공지능에도 나름의 결함이 있었습니다. 

인공지능에만 의존할 때의 위험성

머스크가 그록에 대해 그토록 큰 야망을 품고, 아직 초기 단계이고 신뢰도가 높지 않다는 것을 알면서도 모든 기회에 홍보하는 것은 그 자체로 우려스러운 부분입니다. 인간 편집자를 AI로 대체하는 것은 재정적인 이점을 가져다줄 수 있지만, 그에 따른 위험도 분명히 존재합니다.

헤드라인이 누군가의 피드에서 가져온 것이 아니라 X 플랫폼의 기본 AI 챗봇인 Grok이 생성했다는 사실도 문제지만, 가장 우려스러운 점은 Grok이 애초에 그런 허위 헤드라인을 생성했다 하더라도, 그것이 탐색 뉴스 페이지 상단에 노출되었다는 사실입니다. 

의 생성과 배포 사이에 검증 시스템이 없었 뉴스거나, 있었다 하더라도 충분하지 않았으며, 회사가 인공지능(AI)에 전적으로 의존했음을 보여줍니다. 앞서 언급했듯이, AI는 데이터 분석 및 인간보다 효율적인 결과 도출에 많은 이점을 제공하지만, 민감한 주제를 다룰 만큼 아직 충분히 똑똑하지는 않습니다. 여전히 인간의 개입이 필요한 영역이 있으며, AI가 그 수준에 도달하기까지는 시간이 걸릴 수 있습니다. 그때까지 AI 절차에만 전적으로 의존하는 것은 현명한 선택이 아닙니다.