미국과 중국 간 긴장이 고조되는 가운데, 오픈아이얼은 글로벌 AI 안전 프레임워크 구축을 촉구했습니다

오픈아이디는 인공지능이 원자력 에너지와 같은 수준의 규제를 받아야 한다고 주장하며, 미국이 이를 관리할 글로벌 규제 기관 설립을 주도해야 한다고 촉구했다. 

의 보도에 따르면 Cryptopolitan, 이는 트럼프 대통령이 9년 만에 처음으로 미·중 국빈 방문을 위해 베이징을 방문한 가운데 나온 것으로dent 이번 방문에서 인공지능 정책이 주요 의제로 거론될 것으로 예상되었습니다.

오픈AI의 글로벌 담당dent 인 크리스 레한에 따르면, 트럼프와 시진핑이 한자리에 모이는 것은 두 나라가 인공지능 분야에서 지속 가능한 협력 관계를 구축할 수 있는 드문 기회라고 합니다.

"인공지능은 어느 정도까지는 기존의 전통적인 무역 문제들을 초월합니다. 전 세계적으로 무언가를 구축하고 중국을 포함한 전 세계 국가들이 참여할 수 있는 기회가 있습니다." 라고 말했습니다.

오픈AI는 무엇이며, 국제 정책에 대한 오픈AI의 의견이 왜 중요한가?

개발한 미국 회사입니다 ChatGPT를수억 명의 사람들이 매일 사용하는 인기 있는 AI 비서/챗봇인

이 회사는 강력한 AI 시스템에 대한 모든 주요 논쟁에 항상 참여해 왔습니다. CEO인 샘 알트만은 AI에 대해 논의하기 위해 각국 정상들을 만나고 심지어 의회에서 증언하기도 하여, 글로벌 AI 정책에 상당한 영향력을 행사하고 있습니다.

으로 인해 별도의 법적 분쟁에 휘말려 있습니다. 제기한 소송 오픈아이의 창립 멤버 중 한 명인 머스크는 샘 알트만과 다른 임원들이 회사의 비영리적 사명을 저버리고 영리 기업으로 만들었다고 주장합니다. 

재판은 아직 진행 중이지만, 이번 주 더 큰 뉴스는 베이징에서 벌어지고 있습니다.

OpenAI는 무엇을 제안했고, IAEA는 어떻게 비교하나요?

OpenA의 글로벌 담당dent 크리스 레한은 두 가지를 결합하여 새로운 것을 창조하는 방안을 제안했습니다.

그는 미국 상무부 산하 인공지능 표준혁신 와 인공지능 안전 연구소들이 협력하여 글로벌 네트워크를 구축하기를 원한다. 그는 국제원자력기구 각국이 원자력 규제 기관들을 하나의 통합 기구로 연결한 사례로 

미국 상무부 산하 인공지능 표준혁신센터는 인공지능 시스템에 대한 기술 표준을 만드는 정부 기관입니다. 

동시에 전 세계 여러 국가에서 인공지능 연구소를 설립하고 있습니다. 예를 들어 영국에는 이미 연구소가 있으며, 유럽연합(EU)은 관련 프레임워크를 개발 중이고, 여러 아시아 정부들도 유사한 기구 설립을 추진하고 있습니다. 

레헤인은 인공지능을 위한 통합 기구가 공격에 덜 취약하고 더 안전하고 탄력적인 시스템을 구축하는 데 도움이 될 것이라고 말했습니다. 그는 또한 미국 정부가 자국의 연구자들이 가장 강력한 인공지능 모델을 배포하기 전에 반드시 테스트하도록 의무화해야 한다고 주장했습니다. 

미소스 모델이란 무엇이며, 왜 워싱턴과 베이징 모두를 불안하게 만드는가?

미토스 는 운영 체제 및 기타 소프트웨어에서 "수천 건"의 주요 취약점을 발견한 강력한 새로운 AI 모델입니다. 구글과 아마존의 지원을 받는 AI 보안 회사인 앤트로픽이 미토스를 개발했습니다.

미토스의 잠재력은 전 세계를 충격에 빠뜨렸고, 발표 이후 은행과 정부는 보안 강화에 총력을 기울였다. 백악관 관계자들조차 미토스와 같은 모델 덕분에 중국과의 소통이 그 어느 때보다 중요해졌다고 인정했다. 

중국은 미소스(Mythos) 프리뷰 버전에 대한 조기 접근이 차단되어, 중국 개발자와 정부가 AI 모델을 이용한 공격에 대해 스스로를 방어할 수 있을지에 대한 우려가 제기되고 있다. 

시장 조사 기관인 IDC 차이나는 중국이 미토스 프로젝트에서 제외될 경우 중국과 서방 국가 간 인공지능 방어 능력에 있어 "세대 차이"가 발생할 수 있다고 경고하기도 했습니다. 

에 따르면 연구원들, 공격자들은 고도화된 인공지능을 이용해 생물학 무기를 설계하거나, 금융 시장에 충격을 가하거나, 인간의 통제 없이 자율적으로 행동할 수 있습니다. 가장 무서운 점은 인공지능이 강력하고 빠르며 잘못된 방향으로 나아가기만 하면 이 모든 일을 해낼 수 있다는 것입니다. 

트럼프와 시의 회담에서 무슨 일이 있었고, 그들은 무엇을 논의했습니까?

미국 대표단에는 엔비디아 CEO 젠슨 황과 백악관 기술 정책 고문 마이클 크라치오스가 포함되었습니다. 이들의 참석으로 이번 회담은 최우선 과제이자 시급한 사안이 되었으며, 양측 모두 인공지능 문제를 직접 논의할 준비를 마쳤습니다. 

재무장관과 랴오민 재정부 차관이 주도하는 인공지능(AI) 문제에 대한 공식 대화를 제안했다 스콧 베센트 미 . 그러나 두 기관 모두 AI 전문가가 아니기 때문에 이 대화의 실효성은 낮다.

미국은 또한 중국 개발자들이 첨단 AI 모델의 결과물을 활용하여 훨씬 저렴한 비용으로 안전장치가 부족한 시스템을 구축하고 있다는 우려를 제기할 계획 이었다 .

양측은 군대 핫라인과 유사하게 인공지능 관련 의심dent를 신고할 수 있는, 비난 없는 핫라인 설치 가능성에 대해서도 논의했다.

처럼 첨단 AI 모델에 대한 안전장치를 마련할 수도 있다고 제안했다 사이버보안 협정.

마지막으로, 이번 논의에서는 MATCH 법안중국의 반도체 공급망 접근을 제한하는 것을 목표로 하는 미국의 법안인 

칭화대학교의 쑨청하오 교수는 미중 AI 회담에 참석해 미국이 AI 안전 위험 관리와 단순히 중국의 기술 발전을 막으려는 시도 사이에는 명확한 선을 그어야 한다고 말했다. 

"중국은 미국이 인공지능 관리와 기술 봉쇄를 적절히 구분해주기를 바라는 것 같다" 쑨청하오는