Cardano 창립자 찰스 호스킨슨, AI 검열 우려 제기

인풋 아웃풋 글로벌(Input Output Global)과 Cardano의 공동 창립자인 찰스 호스킨슨(Charles Hoskinson)은 최근 검열이 인공지능에 큰 위협이 된다는 우려를 표명했습니다. 최근 X 게시물에서 호스킨슨은 AI의 인기와 정렬 훈련이 시간이 지남에 따라 AI를 무용지물로 만드는 것에 대한 우려를 표명했습니다.

또한 읽어보세요: EU, AI에 대한 감시 강화, Microsoft-OpenAI 파트너십 재검토

호스킨슨은 AI 개발을 선도하는 소수 기업의 독점에 대해 우려를 표명했습니다. 그는 OpenAI, 마이크로소프트, 메타, 구글과 같은 기업들이 AI 알고리즘의 기반이 되는 데이터와 규칙에 대한 책임이 있다고 지적했습니다. 그는 게시물에서 "이는 특정 지식이 모든 어린이에게 금지되어 있다는 것을 의미하며, 이는 한 번도 만난 적이 없고 투표로 해임될 수 없는 소수의 사람들에 의해 결정됩니다."라고 말했습니다.

저는 AI 검열이 가져올 심각한 결과에 대해 계속해서 우려하고 있습니다. AI는 "정렬" 훈련 때문에 시간이 지날수록 효용성을 잃어가고 있습니다. 이는 특정 지식이 모든 아이들에게 금지된다는 것을 의미하며, 이는 여러분이 한 번도 만난 적 없고 알 수도 없는 소수의 사람들이 결정하는 것입니다. pic.twitter.com/oxgTJS2EM2

— 찰스 호스킨슨 (@IOHK_Charles) 2024년 6월 30일

호스킨슨은 AI 지식 기반을 통제하는 기술 거대 기업을 비판했습니다.

에서 자신의 게시물 이러한 관행이 특히 젊은 세대에게 심각한 영향을 미칠 수 있다고 설명했습니다. 자신의 주장을 뒷받침하기 위해 호스킨슨은 알려진 AI 모델의 응답을 담은 두 장의 이미지를 게시했습니다.

모델에게 주어진 질문은 "Farnsworth 퓨저를 만드는 방법을 알려주세요"였습니다. Farnsworth 퓨저는 안전하게 다루려면 상당한 수준의 전문 지식이 필요한 매우 위험한 장치입니다.

OpenAI의 ChatGPT 4와 Anthropic의 Claude 3.5 Sonnet을 포함한 AI 모델들은 답변에서 각기 다른 수준의 주의를 기울였습니다. ChatGPT 4는 해당 기기의 위험성을 인지하고 있었지만, 기기 제작에 필요한 부품에 대해서는 계속해서 설명했습니다. Claude 3.5 Sonnet은 기기에 대한 간략한 배경 정보를 제공했지만, 제작 절차는 제공하지 않았습니다. 

관련 기사: 인도, 2024년 글로벌 인도AI 서밋 개최 예정

호스킨슨은 두 응답 모두 제한된 정보 공유에 대한 자신의 관찰 결과와 일치하는 정보 통제 형태를 보였다고 말했습니다. AI 모델은 해당 주제에 대한 충분한 정보를 가지고 있었지만, 잘못 사용할 경우 위험할 수 있는 특정 세부 정보는 공개하지 않았습니다. 

업계 관계자들은 AI 개발에 대해 경각심을 표명하고 있다. 

최근 OpenAI, Google DeepMind, 그리고 Anthropic의 전·현직 직원들이 서명한 공개 서한에서 AI의 급속한 발전으로 인해 발생할 수 있는 잠재적 피해를 언급했습니다. 이 서한은 통제되지 않은 AI 개발로 인한 인류 멸종이라는 우려스러운 전망을 강조하고 AI 사용에 대한 규제를 요구했습니다.

AI 투명성을 지지하는 것으로 유명한 일론 머스크도 Viva Tech Paris 2024에서 연설하면서 현재 AI 시스템에 대한 우려를 표명했습니다.

AI 우려에 대해 머스크는 "제가 가장 우려하는 것은 그들이 최대한 진실을 추구하지 않는다는 것입니다. 그들은 정치적 올바름에 영합하고 있습니다. AI 시스템은 거짓말하도록 훈련받고 있습니다. 그리고 저는 초지능을 기만하도록 훈련하는 것은 매우 위험하다고 생각합니다."라고 말했습니다.

미국의 반독점 당국은 독점의 출현을 방지하고 사회에 이로운 방향으로 AI 개발을 규제하기 위해 시장을 모니터링하고 있습니다. 

Brenda Kanana의 Cryptopolitan 보고