빌 게이츠, 전 세계 투자 1조 달러 돌파에 법적 AI 안전 장치 촉구

빌 게이츠는 AI 기업들이 자율 규제를 허용해서는 안 된다고 경고하며 워싱턴에 안전 규정을 설정할 것을 촉구했다.

마이크로소프트 공동 창업자는 9월 25일 방영된 NBC 뉴스 인터뷰에서 이 같은 주장을 펼쳤으며, 이는 ‘미트 더 프레스’에서 전체 인터뷰가 방영되기 이틀 전이었다.

그는 골드만 삭스가 2026년 전 세계 AI 투자가 1조 달러를 초과할 것으로 예측하는 시점에 이 같은 경고를 내놓았다. 이는 새로운 안전 규정이 새로운 보안 시스템을 구현하는 개발자, 투자자 및 기업들에게 중요한 결과를 초래할 수 있음을 의미한다.

“누구도 자율 규제로는 충분하지 않다고 생각한다”

게이츠는 진행자 크리스틴 웰커가 의회의 행동 필요성을 묻자 “물론이다”라고 응답했다.

게이츠에 따르면 “누구도 자율 규제로는 충분하지 않다고 생각한다.” 그는 입법자들과 법 집행 기관이 AI 기업들이 위험을 어떻게 모니터링하고 어떤 안전 장치를 마련해야 하는지에 대해 명확한 법률을 제정해야 한다고 믿는다. 그는 개발자들의 책임을 진전을 늦추는 것이 아니라 “약간의 오버헤드”로 묘사했다.

그의 우려는 일반적인 오용을 훨씬 넘어서는 것이다. NBC와의 인터뷰에서 게이츠는 AI가 “당연히 수십억 명의 사망을 초래할 수 있는 사건을 주도할 만큼 강력하다”고 말했으며, 특히 이러한 고급 시스템이 악의적인 의도를 가진 사람들의 손에 들어갈 때 더욱 그렇다고 지적했다.

업계 리더들은 이러한 안전장치의 범위에 대해 다양한 의견을 가지고 있습니다. 앤트로픽의 다리오 아모데이 CEO 는 '완전한 속도 조절' 또는 심지어 '일시 정지'가 가장 극단적인 형태의 집단적 감속이라고 제안했습니다. 오픈AI 의 샘 올트먼 CEO 역시 유사한 우려를 표명하며 '속도 조절은 그 비용을 충분히 상쇄할 가치가 있다'고 주장했고, 경쟁 우위를 선점하려는 압박이 무모한 행동을 정당화할 수는 없다고 강조했습니다.

그러나 메타의 마크 주커버그 CEO는 다른 의견을 제시했다. NBC 뉴스와의 인터뷰에서 그는 “우리가 업계 전반의 조정이 필요하다고 생각하지 않는다”고 밝혔다. 그는 연구소들이 안전 문제의 위험이 있다고 느낄 때만 속도를 늦추는 것을 선호한다.

게이츠는 개발을 중단하는 것이 아니라 위험 관리를 원함

게이츠는 기술 부문이 AI 시스템 개발을 중단할 것을 요구하는 것에 그치지 않는다. 8월 게이츠 노트에 게재된 에세이에서 그는 인공지능이 “발명된 가장 위대한 평등화 도구이거나, 최악의 불공정의 원천이 될 것”이라고 밝혔다.

그는 또한 전 세계 AI 개발의 일시 중지에 대한 신뢰할 수 있는 계획을 지지할 가능성이 높다고 언급했지만, 개발을 계속하기 위한 경제적, 정치적 이유가 존재하기 때문에 그러한 계획이 효과적일 수 있는지 확신하지는 못했다고 밝혔다.

따라서 그의 입장은 단순히 새로운 개발을 끝내는 것에 그치지 않는다. 오히려 의료, 법률, 소프트웨어, 고객 서비스와 같은 분야에서 AI 기술이 적용됨에 따라 기업, 정부 및 개인을 준비시키는 것에 관한 것이다.

규칙을 기다리는 $1 조 달러 시장

안전 장치에 대한 논쟁은 돈이 AI로 쏟아져 들어오는 시점에 진행되고 있어, 새로운 규정에 대한 이해관계가 훨씬 더 커지고 있다. 골드만 삭스는 2026년 전 세계 AI 투자가 1조 달러를 초과할 것으로 예상하며, 이 중 약 5,810억 달러가 미국에서 이루어질 것이며, 2022년 이후 누적 투자는 연말까지 1.8조 달러에 가까워질 수 있다.

이러한 AI 투자 증가에도 불구하고, 마이크로소프트는 모든 사람이 그 장점과 혜택을 동등하게 누린 것은 아니라고 말한다. 마이크로소프트의 AI 확산 데이터는 글로벌 노스와 글로벌 사우스 사이의 격차가 커지고 있음을 보여주며, OECD는 AI 역량이 여전히 소수의 국가와 기업에 국한되어 있음을 강조한다.

이로 인해 규제는 더욱 어려운 균형 잡기가 되었다. 더 나은 보호는 위험을 줄일 수 있지만, 소규모 연구소와 부유하지 않은 국가들에게 이러한 규정을 준수하는 추가 비용은 감당하기 어려울 수 있다.

규제 patchwork이 이미 형성되고 있음

더 엄격한 규제를 요구하는 목소리는 증가하는 증거에 의해 뒷받침된다. 튜링상 수상자 요슈아 벤지오의 지도 하에 작성되고 해당 분야 100명 이상의 전문가가 참여한 국제 AI 안전 보고서 2026은 AI 시스템의 증가하는 능력으로 인해 존재하는 위험과 잠재적인 미래 위협을 설명한다.

한편, 정부들은 이미 이러한 위험에 대한 규제를 만들고 있다. TRM 랩스에 따르면, 다양한 국가들이 AI 거버넌스, 구현 및 책임성에 대해 다른 접근 방식을 취함에 따라 새로운 글로벌 “patchwork” 형태의 AI 규제가 나타나고 있다.

유럽연합은 대부분의 다른 국가들보다 이러한 목표의 이행을 더 적극적으로 추구해 왔다. EU AI Act에 따르면, 범용 AI 제공자는 문서화, 저작권, 훈련 데이터에 대한 투명성 측면에서 엄격한 의무를 준수해야 한다. 10^25 FLOP 이상을 사용하는 모델은 시스템적 위험을 초래할 수 있으며, 이는 모델 평가, 위험 관리, 사고 보고 및 사이버 보안에 대한 추가 기준에 해당한다.

규제가 증가함에 따라 이를 준수하려는 기업이 지출하는 금액도 증가하고 있다. 가트너에 따르면, 2027년까지 조직이 AI 보안을 위해 지출하는 금액은 68.7% 증가하여 거의 48억 달러에 달할 것으로 예상되며, 2028년에는 77억 달러에 가까워질 것으로 전망된다.

워싱턴도 더 강력한 규제 프레임워크로 나아가는 것으로 보인다. 크립토폴리탄이 보도한 바와 같이, 상원 협상자들은 AI 개발자에게 ‘주의 의무’를 설정하는 양당 이니셔티브를 검토하고 있으며, 이는 정부가 안전하지 않은 모델의 출시를 방지할 수 있게 할 것이다. 이것이 승인되면 게이츠가 촉구하는 보호 메커니즘이 자발적 의무 영역에서 법적 구속력 있는 책임 영역으로 이전될 것이다.