Google, OpenAI 및 기타 13개사, 위험한 AI 모델 배포 금지 약속

구글, 오픈AI, 메타는 위험을 통제할 수 없는 경우 AI 모델 개발을 중단하기로 동의했습니다. 이 기업들은 영국과 한국의 공동 주최로 열린 AI 서울 정상회의 화요일에 'AI 안전 서약'에 서명했습니다.

또한 읽기: 영국과 대한민국, AI 정상회의 협력

전 세계 여러 지역의 주요 AI 기업들이 동일한 AI 안전 서약에 동의한 것은 세계 최초의 사례입니다. 

— 리시 수낙 영국 총리

16 AI 기업들, AI 안전 서약에 동의

보고서에 따르면 미국, 중국, 중동을 아우르는 총 16개 AI 기업이 안전 서약에 동의했습니다.

마이크로소프트, 아마존, 앤티트로픽, 삼성전자, 그리고 중국의 개발사 지푸AI(Zhipu.ai)도 안전 기준에 동의한 기업들 중 하나입니다. 

더 읽기: 알리바바와 텐센트, AI 스타트업 지푸AI에 3억 4,200만 달러 투자

AI 안전 서약은 모든 기업이 2025년 초 프랑스에서 열리는 다음 AI 액션 정상회의 전에 각자의 안전 프레임워크를 발표하도록 요구합니다. 이 프레임워크는 기업들이 모델의 위험을 어떻게 판단하며 어떤 위험이 '용납할 수 없는' 것으로 간주되는지를 설명합니다.

AI 기업들, 위험한 AI 모델 개발 중단

보고서에 따르면 가장 극단적인 경우, 기업들은 위험을 통제할 수 없는 경우 '모델이나 시스템을 전혀 개발하거나 배포하지 않을' 것입니다. 

우리가 위험을 제대로 통제할 때에만 AI의 진정한 잠재력이 발휘됩니다. AI가 안전하게 개발되도록 하는 것은 우리 모두의 책임입니다. 

— 미셸 도넬런 영국 기술장관

2023년 7월, 미국 정부도 AI의 위험과 이익을 다루기 위해 유사한 노력을 기울였습니다. 조 바이든 대통령은 구글, 마이크로소프트, 메타, 오픈AI, 아마존, 앤티트로픽, 인플렉션을 만나 출시 전에 AI 제품이 안전하도록 보장하는 AI 보호 장치에 대해 논의했습니다.

오픈AI를 둘러싼 AI 안전 논쟁 격화

지난 몇 달 동안 AI 안전에 대한 논의가 뜨거워졌으며, 특히 인간과 유사한 일반 지능을 모방하는 AGI(인공일반지능)를 중심으로 논의가 이루어졌습니다. 

오픈AI는 지난주 공동 설립자 일야 수트케버(Ilya Sutskever)와 최고 경영진 얀 라이케(Jan Leike)가 사임하면서 이 논의의 중심에 있었습니다. 이 두 사람은 모델이 통제 불능 상태에 빠지는 것을 방지하기 위해 설립된 오픈AI 슈퍼얼라인먼트(Superalignment) 팀을 이끌었습니다. 

또한 읽기: 또 다른 오픈AI 임원, 얀 라이케 퇴사

게시글에서 라이케는 “지난 몇 년간 회사의 안전 문화와 프로세스가 눈부신 제품 개발에 밀려 뒷전으로 밀려났다”고 말했다. 

라이케는 “OpenAI는 안전 최우선 AGI 회사가 되어야 한다”고 덧붙이며, AGI가 인류 전체에 혜택을 줄 수 있도록 보장하기 위해 AGI에 대비할 수 있는 최선의 노력을 기울여 우선시해야 한다고 말했다.

크립토폴리탄의 이비아임 와야스 보도