우리는 AI의 영향을 통제할 수 있는가? 폐쇄된 의회 토론에서 얻은 교훈

미국 의회 내부 회의에서 저명한 기술 기업가 일론 머스크는 인공지능(AI)의 위험성에 대해 강력한 경고를 발하며, AI가 "우리 모두를 죽일" 가능성이 "0보다 높다"고 밝혔다.

미국 의원들과 기술 업계 전문가들이 AI가 사회에 미칠 막대한 영향을 논의하기 위해 모인 'AI 인사이트 포럼'에서 머스크는 이 같은 우려스러운 주장을 펼쳤다. 논의 과정에서 머스크는 AI의 성장을 감독하고 인류를 잠재적 위험으로부터 보호하기 위해 전담 정부 기관 설립을 촉구했다.

기술 거인들이 AI의 영향을 논의하다

테슬라, 스페이스X, X Corp.(구 트위터) 등 다양한 기업과 연관된 일론 머스크는 'AI 인사이트 포럼'에서 AI의 존재론적 위험에 대한 우려를 표명하며 화제를 모았다. 머스크의 발언은 AI가 해를 끼칠 확률은 낮을 수 있지만, 그러한 위험에 직면했을 때 인간 문명의 취약성을 고려하는 것이 필수적이라는 그의 신념을 강조한다.

머스크의 선제적 정부 개입 촉구 발언은 메타 플랫폼스(Meta Platforms Inc.)의 마크 저커버그 최고경영자(CEO), 마이크로소프트 공동 창업자 빌 게이츠, 오픈AI LP의 공동 창업자 겸 CEO 샘 알트만, 엔비디아(Nvidia Corp.)의 젠슨 황 CEO 등 참석자들의 공감을 얻었다. 이 포럼은 AI의 우선순위, 관련 위험, 그리고 이러한 위험을 완화할 수 있는 규제 조치에 대한 포괄적인 논의를 가능하게 했다.

AI 규제의 시급성

이 세션을 주재한 척 슈머 상원의원은 AI 규제에 대한 자신의 견해를 공유하며 정부 개입의 필요성을 강조했다. 슈머 의원에 따르면, 회의에 참석한 모든 참여자가 정부 감독의 필요성에 동의했다. 그들의 집단적 합의는 모든 기업이 AI에 대한 안전 장치를 자발적으로 마련하지 않을 것이며, 이는 잠재적인 오용과 해악의 여지를 남길 수 있다는 인식에서 비롯되었다.

구체적인 우려 사항 중 하나는 오픈소스 AI 시스템 문제였다. 이러한 시스템은 다운로드와 수정이 용이하여 기업들이 대규모 학습 비용 없이 ChatGPT와 같은 강력한 언어 모델을 다양한 목적으로 활용할 수 있게 한다. 휴먼 테크놀로지 센터(Center for Humane Technology)의 공동 창업자 겸 집행 이사인 트리스탄 해리스는 오픈소스 AI 시스템이 악의적 행위자에게 악용될 수 있다고 우려했으며, 메타의 Llama 2 모델이 위험한 생물학적 화합물 생성에 오용될 수 있는 사례를 들었다.

마크 저커버그는 오픈소스 접근 방식이 고급 AI 도구への 접근을 민주화한다고 주장하며 방어했다. 그는 관련 위험을 인정하면서도 메타가 이러한 시스템의 안전성을 강화하는 데 전념하고 있다고 강조했다. 저커버그의 관점은 AI 생태계에서 접근성과 혁신의 중요성을 부각시켰다.

AI가 일자리와 사생활에 미치는 영향

마리아 칸웰 상원의원은 AI를 생계에 대한 looming threat(임박한 위협)으로 인식하는 근로자들의 우려를 제기했다. 그녀는 미국 작가 조합 서부 지부(Writers Guild of America West)의 수장인 메리디스 스티움이 구성원들이 엔터테인먼트 산업에서 자신의 일자리가 AI에 의해 대체될 것이라는 두려움 때문에 파업에 돌입했다고 언급하며 논의 내용을 강조했다.

세션이 마무리되자 일론 머스크는 의회가 AI를 규제할 준비가 되어 있는지에 대해 회의적인 입장을 보이며, 입법 시행 전에 이 문제에 대한 철저한 조사를 촉구했다. 반면, 척 슈머 상원의원은 AI 규제 프레임워크 개발에 대한 자신의 의지를 강조하며 향후 몇 달 내에 입법을 통과시킬 계획임을 밝혔다. 주요 과제는 입법의 범위를 결정하는 것으로, 포럼에서 제기된 문제들은 사생활 침해, 저작권 침해, 인종 편향, 중국 및 기타 지정학적 경쟁자와 관련된 경제적 영향, 그리고 군대의 AI 기술 사용 등을 포괄한다.

AI 인사이트 포럼은 산업계 거물들과 정책 입안자들을 모아 인공지능이 제기하는 다각적인 도전 과제들을 해결하기 위해 모였습니다. 일론 머스크의 AI 잠재적 위험에 대한 심각한 경고는 오픈 소스 AI 시스템과 관련된 위험에 직면하여 선제적인 정부 규제의 시급한 필요성을 강조한 토론의 톤을 설정했습니다. 의원들이 AI 입법의 범위와 세부 사항을 다루는 동안, AI의 영향은 일자리와 사생활에 대한 우려로 인해 인공지능의 미래에 관한 지속적인 대화의 중심에 남아 있습니다.