시작 기업들, AI 안전 정상회담 논의 속에서 명확성과 부문별 AI 규제 요구

최근 영국 AI 안전 정상회담은 산업계 리더, 정책 입안자, 그리고 스타트업들이 모여 고급 AI 시스템과 관련된 도전 과제와 위험을 논의하기 위해 모였습니다. 많은 이들이 이 행사를 긍정적인 외교적 조치로 보았지만, AI 제품을 구축하는 스타트업들은 이제 AI 규제에 대한 명확성과 부문별 접근 방식의 필요성을 강조하고 있습니다. 

연결 구축 및 정보 수집

AI 안전 스타트업인 컨젝처(Conjecture)의 공동 창립자 코너 리히(Connor Leahy)는 정상회담이 주로 정책 결정의 장이 아니라 네트워킹, 정보 교환 및 관계 구축을 위한 플랫폼 역할을 했다고 지적했습니다. 리히와 같은 창업자들은 AI 커뮤니티 내에서 연결을 강화하는 것의 중요성을 강조했습니다.

명확한 규칙에 대한 요구

스타트업들은 AI 벤처를 위한 안정적인 환경을 제공하기 위해 영국에서 더 명확한 규제를 요구하고 있습니다. 물리적 장치의 AI 제품에 대한 데이터 보안에 중점을 둔 런던 기반 스타트업인 옥타이프(Octaipipe)의 공동 창립자 에릭 토포햄(Eric Topham)은 데이터 보안 규칙에 대한 명확성의 필요성을 강조했습니다. 그는 유럽의 사이버 복원력 법(Cyber Resiliency Act)이 도난 데이터 위반에 대한 처벌을 규정하는 것과 대조적으로, 영국이 정의된 표준의 부재가 있음을 지적했습니다.

그러나 옥타이프와 같은 스타트업들은 AI 입법에 대한 일괄적인 접근 방식을 채택하는 데 신중합니다. 많은 창업자들은 EU의 수평적 접근 방식(다양한 산업에 동일한 규칙 적용)보다 부문별 규제가 더 적합하다고 믿습니다. 자율주행 회사 웨이브(Wayve)의 공동 창립자 알렉스 켄들(Alex Kendall)은 서로 다른 산업이 고유한 AI 관련 위험에 직면해 있으며 맞춤형 규제가 필요하다고 주장했습니다.

즉각적 위험과 장기적 위험의 균형

정상회담은 주로 미래의 초강력 AI 시스템과 관련된 '파괴적' 위험에 초점을 맞추었지만, 스타트업들은 정책 입안자들에게 즉각적이고 장기적인 도전을 해결할 것을 촉구하고 있습니다. Faculty의 CEO인 마크 워너(Marc Warner)는 자동차 산업에서 안전벨트와 촉매 변환체 모두를 중요하게 생각하는 것에 비유하여, 근미래 및 장기적 위험을 동시에 해결하는 것의 중요성을 강조했습니다.

프론티어 AI 규제

방대한 양의 데이터와 컴퓨팅 파워로 훈련된 가장 강력한 AI 시스템과 같은 프론티어 AI의 규제는 AI 업계에서 여전히 논쟁의 대상입니다. 메타의 얀 르쿤(Yann LeCun)과 같은 일부 전문가들은 이러한 시스템이 진정한 지능을 갖춘 것이 아니라 정교한 자동 완성 도구일 뿐이며 엄격한 규제가 필요하지 않을 수 있다고 주장합니다.

반면, 컨젝처와 같은 스타트업들은 새로운 모델 훈련을 위한 컴퓨팅 파워에 최대 한계를 설정하여 AI 시스템이 인간 능력을 초과하는 것을 방지할 것을 제안합니다. 이들은 통제되지 않는 초지능 AI 시스템이 기계가 미래를 통제하고 인간의 통제를 대체할 수 있다고 주장합니다.

파리 기반 생성형 AI 스타트업인 미스트랄(Mistral)은 빅테크 기업의 AI 모델에 대한 의무적인 독립 감독을 주장합니다. 이를 통해 공공 연구 기관이 이러한 모델을 연구하고 투명성을 보장할 수 있습니다. 오픈AI와 구글 딥마인드와 같은 일부 빅테크 기업들은 외부 테스트를 위한 자발적 협정에 서명했지만, 미스트랄의 공동 창립자 아서 멘슈(Arthur Mensch)는 이러한 기업들이 스스로를 규제하는 것을 방지하기 위해 입법이 필요하다고 고집합니다.

딥마인드의 공동 창립자이자 현재 인플렉션(Inflection)의 CEO인 무스타파 술레이만(Mustafa Suleyman)은 자발적 협정이 긍정적인 첫 단계임을 인정합니다. 그러나 그는 규제와 기업의 지적 재산권 사이의 균형을 강조합니다.

영국 AI 안전 정상회담 이후, AI 업계의 스타트업들은 규제 명확성을 모색하고 AI 규제에 대한 부문별 접근 방식을 옹호하고 있습니다. 정상회담은 주로 고급 AI 시스템과 관련된 장기적 위험을 다루었지만, 스타트업들은 즉각적인 도전을 고려할 필요성을 강조했습니다. 가장 강력한 AI 시스템을 어떻게 규제할지에 대한 논쟁은 계속되고 있으며, 일부는 컴퓨팅 파워에 대한 엄격한 한계를 주장하는 반면, 다른 이들은 빅테크 기업에 대한 독립 감독을 주장합니다. 남아있는 질문들에도 불구하고, 지속적인 대화는 AI 규제의 미래를 형성하기 위한 긍정적인 단계로 신호를 보내고 있습니다. AI 산업이 진화함에 따라 혁신과 규제 사이의 올바른 균형을 찾는 것이 그 성장과 책임 있는 개발을 위해 중요할 것입니다.