AI 모델은 방치될 경우 위험할 수 있습니다

바이든 행정부 하의 상무부는 오픈 소스 또는 클로즈드 소스 인공지능 모델의 수출을 추가로 제한하기 위한 새로운 준수 이니셔티브를 목표로 하고 있습니다. 이 이니셔티브는 러시아와 중국으로부터 미국 이익과 AI 기술을 보호하기 위한 노력이며, 중국이 최신 고급 컴퓨터 칩에 접근하는 것을 차단하기 위해 지난 2년 동안 취해진 조치를 보완할 것입니다.

로이터 통신은 이 문제에 정통한 세 명의 출처를 인용해, ChatGPT와 같은 앱을 구동하는 대형 언어 모델의 핵심 소프트웨어 주변에 더 엄격한 보호 장벽을 구축하려는 미국의 노력을 보도했다. 뉴스 제공자는 민간 부문과 정부의 연구원들이 미국 적대 세력이 이 기술을 공격적인 사이버 공격과 생물학적 무기 개발에 사용할 수 있다는 사실에 우려하고 있다고 주장했지만, 중국 대사는 이 조치를 일방적인 괴롭힘과 경제 협박으로 규정하며 반대했다.

딥페이크는 치명적인 허위 정보 무기이다

미국이 두려워하는 위협은 많으며, 국가의 지원을 받는 비국가 행위자들이 이를 사용할 수 있다. 딥페이크는 AI 도구를 사용하여 사실처럼 보이지만 가짜로 제작된 동영상을 포함하므로 선전용 무기로 효과적으로 사용될 수 있다. 

이러한 유형의 비디오는 이미 소셜 미디어에서 나타나고 있다. 애니메이션 및 렌더링 소프트웨어로 개발된 이러한 미디어 콘텐츠는 지난 몇 년간 존재해 왔지만, 생성형 AI 도구는 누구나 쉽게 제작할 수 있게 만들었으며, 악의적인 행위자들은 선거 캠페인 기간 중 특히 민감한 사안에 대한 대중의 의견을 조작하기 위해 이전보다 훨씬 쉽게 이를 활용할 수 있다.

YouTube, Facebook, Twitter와 같은 소셜 미디어 플랫폼은 이미 딥페이크를 제한하기 위한 조치를 취했지만, 기술의 발전과 함께 이를 개발하고 게시하는 전술도 변화하고 있다. 현재 Microsoft와 OpenAI와 같은 회사의 도구를 사용하여 허위 정보를 확산하기 위한 콘텐츠를 생성할 수 있다.

Rand Corporation와 Gryphon Scientific의 연구원들, 그리고 미국 정보 기관, 학계 전문가 및 싱크탱크에 따르면, AI 모델이 생물학적 무기 개발을 위해 정보를 유출할 수 있다는 점이 훨씬 더 큰 우려 사항이며, AI가 악의적인 요소들의 손에 들어갈 가능성에 대해 우려하고 있다.

Gryphon의 연구는 LLM이 팬데믹 능력을 가진 바이러스 개발을 돕는 전문가 지식과 박사 수준의 지식을 생성해 낼 수 있는 방법을 식별했으며, 이는 비국가 행위자들이 생물학적 무기로 사용할 수 있다.

AI 모델을 활용한 증폭된 사이버 공격

국토안보부도 철도와 파이프라인과 같은 중요한 인프라에 대한 사이버 공격이 더 대규모이고 복잡한 사이버 공격을 수행할 수 있는 새로운 도구를 개발하여 AI를 통해 더 빠르게 실행될 수 있다는 우려를 표명했다.

이 기관은 또한 중국이 멀웨어 공격에 사용될 수 있는 인공지능 소프트웨어를 개발 중이며, 잠재적으로 국가의 사이버 방어 시스템을 무력화할 수 있는 AI 기술도 개발 중이라고 밝혔다.

지난 2월, Microsoft는 LLM을 활용하여 해킹 캠페인을 정교화하는 해킹 활동에 관여하는 사이버 그룹을 식별했으며, 이들은 러시아, 북한, 중국 정부의 군사 정보 기관 및 이란의 혁명수비대와 연관되어 있다고 보고했다.

이 회사는 국가 지원 사이버 그룹이 자신의 AI 제품과 서비스를 사용하는 것을 금지한다고 발표했습니다. 수요일, 일련의 정치인들이 바이든 정부가 AI 모델의 수출에 대한 통제를 시행하여 잠재적 적들에게 노출되는 것을 방지하는 데 도움이 될 법안을 제안했습니다.

주제에 대한 전문가들은 워싱턴이 혁신을 억제할 수 있는 과도한 규제를 피하려고 노력하고 있으며, AI와 관련된 위험에 대한 가능한 솔루션과 함께 혁신을 장려하려고 한다고 말했습니다. 그들은 또한 AI 진보를 엄격하게 규제함으로써 엄격한 규제를 시행하면 해외 경쟁자를 위한 공백을 만들고 인프라, 국가 안보 및 약물 발견 분야에 부정적인 영향을 미칠 것이라고 강조했습니다.