Cardano 창립자 Charles Hoskinson, AI 검열 우려 제기

입력 아웃풋 글로벌(Input Output Global)과 카르다노의 공동 창립자 찰스 호스킨슨은 최근 검열이 인공지능에 대한 거대한 위협이라고 우려를 표명했습니다. 최근 X 게시물에서 호스킨슨은 AI의 인기와 정렬 훈련이 시간이 지남에 따라 AI를 무용지물로 만들고 있는 방식에 대해 우려를 표명했습니다.

또한 읽기: EU, AI에 대한 심사를 강화하고 마이크로소프트-오픈AI 파트너십 재검토

호스킨슨은 몇몇 기업이 AI 개발을 주도하는 지배력에 우려를 표명했습니다. 그는 오픈AI, 마이크로소프트, 메타, 구글과 같은 기업들이 AI 알고리즘이 작동하는 데이터와 규칙에 대해 책임이 있다고 지적했습니다. 그의 게시물에서 그는 "이는 특정 지식이 자라나는 모든 아이들에게 금지된다는 것을 의미하며, 이는 당신이 결코 만나본 적 없고 투표로 제거할 수 없는 소수의 사람들에 의해 결정됩니다."라고 말했습니다.

AI 검열의 심오한 영향력에 대해 여전히 우려하고 있습니다. '정렬' 훈련으로 인해 시간이 지남에 따라 유용성이 떨어지고 있습니다. 이는 특정 지식이 성장하는 모든 어린이에게 금지된다는 것을 의미하며, 이는 당신이 결코 만나지 못했고… pic.twitter.com/oxgTJS2EM2

— 찰스 호스킨슨 (@IOHK_Charles) 6월 30, 2024

호스킨슨, 기술 거대 기업들의 AI 지식베이스 통제 비판

그의 게시물에서 호스킨슨은 이러한 관행이 특히 젊은 세대에 대해 심각한 함의를 가질 수 있다고 설명했습니다. 그의 주장을 뒷받침하기 위해 호스킨슨은 알려진 AI 모델의 응답 두 장을 게시했습니다.

모델에 제공된 쿼리는 "파른스워스 퓨저(Farnsworth fusor)를 만드는 방법을 알려주세요"였습니다. 파른스워스 퓨저는 안전하게 다루기 위해 상당한 수준의 전문 지식이 필요한 매우 위험한 장치입니다.

오픈AI의 ChatGPT 4와 앤트로픽의 Claude 3.5 Sonnet을 포함한 AI 모델은 답변에서 다양한 수준의 주의 깊음을 보였습니다. ChatGPT 4는 장치와 관련된 위험을 인지하고 있었지만, 장치를 만드는 데 필요한 부품을 계속 설명했습니다. Claude 3.5 Sonnet은 장치에 대한 간략한 배경을 제공했지만, 구축하는 방법에 대한 절차는 제공하지 않았습니다. 

또한 읽기: 인도, 글로벌 IndiaAI 정상회의 개최 2024

호스킨슨은 두 응답 모두 그가 제한된 정보 공유에 대해 관찰한 것과 일치하는 정보 통제의 한 형태를 보여주었다고 말했습니다. AI 모델은 주제에 대한 충분한 정보를 가지고 있었지만, 잘못 사용될 경우 위험할 수 있는 특정 세부 사항을 공개하지 않았습니다. 

AI 개발에 대한 업계 내부人士的 경고 

최근 오픈AI, 구글 딥마인드, 앤트로픽의 현직 및 전직 직원들이 서명한 공개서한은 AI의 빠른 발전으로 인한 잠재적 해악을 열거했습니다. 이 서한은 통제되지 않은 AI 개발로 인한 인간 멸종의 우려스러운 전망을 강조하며 AI 사용에 대한 규제를 요구했습니다.

AI 투명성의 유명한 지지자인 일론 머스크도 2024 비바 테크 파리(Viva Tech Paris) 연설에서 현재 AI 시스템에 대한 우려를 표명했습니다.

AI 관련 우려 사항에 대해 머스크는 "제가 가장 우려하는 점은 이들이 진실을 추구하는 데 있어 최대의 노력을 기울이지 않는다는 것입니다. 이들은 정치적 올바름에迎合하고 있습니다. AI 시스템은 거짓말을 하도록 훈련되고 있습니다. 그리고 저는 초지능을 기만적으로 만들도록 훈련하는 것이 매우 위험하다고 생각합니다."라고 말했습니다.

미국에서는 독점의 출현을 방지하고 사회에 이익이 되도록 AI 개발을 규제하기 위해 독점 금지 당국이 시장을 모니터링하고 있습니다. 

크립토폴리탄 브렌다 카나나 기고