Elon Musk의 AI 편향과 X의 통제되지 않은 자동화

Elon Musk의 X 플랫폼이 이란의 이스라엘 공격에 대한 뉴스를 뉴스 피드의 최상단인 Explore 페이지로 홍보했을 때 소셜 미디어에 공포스러운 뉴스가 퍼졌습니다.

목요일, X의 주요 뉴스 피드에 있는 제목 중 하나는 다음과 같이 읽혔습니다.

“이란, 중미로 텔아비브 공격”

지정학적 상황과 이란 대사관 공격으로 최고 관리자들이 사망하고 이스라엘과 이란 간의 긴장이 이스라엘의 가자 침공 동안 더욱 고조된 최근 사건을 고려할 때, 이는 다소 우려스러운 업데이트였을 것입니다. 그래서 아마도 좋은 시기는 아니지만, whatever 이유로 오해의 소지가 있는 헤드라인을 홍보하려는 사람들에게 이상적인 시기일 수 있으며, AI(인공지능)가 이러한 흉악한 행위를 위한 도구로 사용될 수 있기 때문에 그 역할을 무시할 수 없습니다. 

헤드라인은 가짜였으며, 더 우려스러운 점은 X의 공식 AI 챗봇 Grok에 의해 생성되어 이 기능이 새로운 버전으로 업데이트된 날 X의 Explore 트렌딩 뉴스 최상단으로 홍보되었다는 것입니다.

Elon Musk의 자동화 드라이브 – 사건이 처음 발생한 이유

사건의 뿌리를 추적하면, Grok가 생성한 오해의 소지가 있는 제목이 이제 인공지능에 의해 처리되는 중요한 콘텐츠 큐레이션 작업의 산물임이 분명해집니다. 이는 아직 완전히 지능적이지 않습니다.

X 플랫폼 이전의 Twitter는 트렌딩 뉴스 주제에 대한 서면 맥락을 제공하는 기능을 가지고 있었습니다. 아마도 이러한 설명은 인간이 작성했을 것입니다. Twitter의 알고리즘은 관련 키워드를 포착하고 키워드 제안에 기반하여 트렌딩 주제와 트렌드를 공유할 수 있었습니다.

나중에 Twitter는 더 나은 결과를 위해 뉴스를 큐레이션하고 트렌드를 관리하기 위해 인간 편집자 팀을 형성했으므로, 트렌딩 주제는 더 이상 알고리즘이 선택하는 데 맡겨지지 않았습니다. 대신 인간 요소가 뒤에 있었기 때문에 더 신뢰할 수 있는 접근 방식이 채택되었습니다. Twitter는 또한 Reuters와 AP와 같은 상위 뉴스 에이전시와 파트너십을 맺어 트렌딩 주제에 대한 인간 생성 맥락의 프로세스를 더욱 강화했습니다.

하지만 2022년에 Musk가 Twitter를 인수하고 X로 리브랜딩하면서 트렌딩 뉴스의 인간 작성 맥락을 대체했습니다. Musk는 AI가 뉴스를 더 효율적으로 큐레이션하기를 선호했기 때문에 전체 인간 편집자 팀이 해고되었지만, 이는 자체적인 결함이 있었습니다. 

AI에만 의존하는 위험

Musk가 아직 초기 단계에 있고 그렇게 신뢰할 수 없음을 알면서도 Grok에 대해 매우 야심차고 어떤 기회에도 이를 홍보하는 것은 그 자체로 우려됩니다. Musk가 인간 편집자를 AI로 대체하는 것은 일부 재정적 이점을 가져올 수 있지만, 자체 비용도 수반합니다.

헤드라인이 누군가의 피드에서 가져온 것이 아니라 X 플랫폼의 네이티브 AI 챗봇인 Grok에 의해 생성되었다는 사실. 그러나 가장 우려스러운 사실은 Grok가 처음에 그러한 가짜 헤드라인을 생성했더라도, 그것은 Explore 뉴스 페이지의 최상단으로 홍보되었다는 것입니다. 

이는 뉴스의 생성과 홍보 사이에 확인 시스템이 없었음을 보여주며, 만약 시스템이 있었다면 충분하지 않았고, 회사는 작업을 수행하기 위해 AI에 완전히 의존했습니다. 앞서 언급했듯이, AI는 데이터를 분해하는 많은 이점을 제공하고 인간이 수행할 수 있는 것보다 더 효율적인 결과를 제공함에도 불구하고 여전히 민감한 주제를 처리할 만큼 똑똑하지 않습니다. 여전히 인간의 개입이 필요한 영역이 있으며, AI는 그 단계에 도달하는 데 시간이 걸릴 수 있습니다. 그때까지 AI 절차에만 의존하는 것은 현명한 조치가 아닙니다.