Grok의 Musk에 대한 터무니없는 찬사는 중앙집권적 AI의 위험성을 강조

Grok의 새로운 빌드는 과장된 Musk 찬사와 함께 왔으며, 그를 세계의 가장 상징적인 인물들 중 일부보다 위에 위치시켰습니다. 4.1 모델로 업그레이드된 후, 이 AI 챗봇은 억만장자 Elon Musk를 Brad Pitt보다 더 매력적이고, LeBron James보다 더 좋은 체격이며, Mike Tyson과 복싱 매치에서 승리할 수 있다고 묘사했습니다.

X 사용자들은 목요일에 Grok가 창작자를 칭찬하는 데 지나치게 몰입하고 있다는 것을 처음 발견했습니다. 먼저, X의 한 사용자가 Musk와 Tyson의 가상 복싱 매치에 대해 질문했습니다.

Grok는 Elon이 스마트 페인트와 전략을 사용하여 Tyson을 이겨낼 것이며, 순수한 힘보다는 독창성을 통해 승리를 거둘 것이라고 응답했습니다. 이 챗봇은 또한 Musk가 Peyton Manning과 Ryan Leaf보다 1988년 NFL 드래프트에서 첫 번째 선택권을 받을 자격이 있다고 주장했습니다. 이제 이러한 열정적인 응답들 중 많은 것이 삭제되었습니다.

Musk, 과도한 찬사를 적대적 프롬프팅 탓

지금까지 Musk는 과도한 찬사를 적대적 프롬프팅탓으로 돌렸습니다. 금요일 X 게시글에서, 이 억만장자는 “오늘早些에 Grok가 적대적 프롬프팅에 의해 조작되어 저에 대해 터무니없이 긍정적인 말을 하도록 했습니다.”라고 언급했습니다.

그럼에도 불구하고, 암호화폐 임원들은 이것이 AI가 가능한 한 빨리 탈중앙화되어야 한다는 신호로 받아들였습니다. 탈중앙화 클라우드 플랫폼 Aethir의 최고 기술 책임자(CSO)인 Kyle Okamoto는 예를 들어 “가장 강력한 AI 시스템이 단일 회사에 의해 소유, 훈련 및 거버넌스될 때, 알고리즘 편견이 제도화된 지식이 되는 조건을 만듭니다.”라고 지적했습니다.

그는 AI 모델이 출력을 객관적 진실로 받아들이게 되면, 편견이 사소한 문제에서 시스템을 구동하는 근본적인 논리로 변한다고 더 설명했습니다. 또한, Eliza Labs의 창립자 Shaw Walters는 Grok의 중앙집권화를 “극도로 위험한” 상황으로 간주합니다.

사람들이 Musk를 찬양하든 싫어하든, 예를 들어, 그녀는 한 사람이 강력한 AI와 연관된 지배적인 소셜 플랫폼을 소유하고 있으며, 수백만 명이 이를 주요 정보원으로 사용하는 것이 실제 위협이라고 말합니다. 다른 AI 윤리학자들도 유사한 우려를 표명했습니다.

여러 연구자들은 Grok의 과장된 찬사가 외관상 무해해 보이지만, AI 모델이 제작자, 훈련자 또는 데이터 소스의 편향을 얼마나 쉽게 수용하는지에 대한 더 깊은 우려를 반영한다고 관찰했다. 일부 분석가들은 또한 이와 같은 사건들이 AI 모델이 수백만 사용자에게 도달하기 전에 독립적인 감사, 오픈소스 체크포인트, 안전성 테스트를 위한 규제 기준이 필요함을 다시 한번 강조한다고 주장했다.

매월 약 3,000만에서 6,400만 명의 사용자가 Grok를 사용하고 있어 가장 널리 채택된 AI 챗봇 중 하나이다. 이 모델은 일일 활성 사용자(DAU)가 약 670만 명에 달한다.

Eliza Labs는 몇 달 전 자신의 계정을 정지하고 유사한 AI 제품을 출시하기 전에 플랫폼이 자신의 데이터를 가져갔다고 주장하며 Musk의 X를 독점 금지법 위반으로 고소했다. 이 사건은 아직 해결되지 않았다.

EU, 미국, 영국의 규제 기관들도 중앙집중화된 AI 권력에 대한 우려에 더 주의를 기울이기 시작했다. EU의 AI법은 훈련 데이터의 투명성을 요구하는 조항을 포함하고 있다. 동시에 미국 기관들은 몇몇 기술 기업 내에 AI 역량이 집중되는 것이 시스템적 취약점을 초래할 위험이 있다고 경고했다.

AI 스타트업들은 대형 언어 모델에 더 집중하고 사용자 기반을 확장하고 있다.

블록체인은 보안성과 투명성을 모두 갖춘 네트워크를 제공하여 AI의 분산화를 도울 수 있다. 그러나 대부분의 AI 스타트업에게 AI 분산화는 대형 언어 모델을 최적화하고 사용자 기반을 늘리는 것보다 우선순위가 낮다.

그럼에도 불구하고 Ocean Protocol, Fetch.ai와 같은 암호화폐 프로젝트 및 비텐서 Aethir, NetMind.AI와 같은 기업들은 분산 클라우드 컴퓨팅에 집중하며 AI 데이터의 분산화를 위해 노력하고 있다.

전문가들은 AI를 분산화하는 것이 잘못된 출력과 편향을 제한할 뿐만 아니라 사용자가 모델의 작동 방식을 이해할 수 있게 하여 혁신가들이 윤리를 우선시하도록 동기를 부여한다고 강조했다.