바이든 행정부 산하 상무부는 오픈소스 또는 클로즈드소스 인공지능 모델의 수출을 더욱 제한하기 위한 새로운 규제 강화 계획을 추진하고 있습니다. 이 계획은 러시아와 중국으로부터 미국의 이익과 인공지능 기술을 보호하기 위한 노력이며, 지난 2년간 중국의 최첨단 컴퓨터 칩 접근을 차단하기 위해 취해진 조치들을 보완할 것입니다.
로이터 통신은 사정에 정통한 세 소식통을 인용해 미국이 ChatGPT 같은 앱에 사용되는 대규모 언어 모델의 핵심 소프트웨어에 더욱 엄격한 보호 장벽을 구축하려 한다고 보도했습니다. 로이터는 민간 및 정부 연구원들이 미국의 적대 세력이 이 기술을 악용해 사이버 공격을 감행하거나 생물학 무기를 개발할 가능성을 우려하고 있다고 전했습니다. 반면 중국 대사관은 이러한 움직임을 일방적인 괴롭힘이자 경제적 압박이라고 비난하며 반대 입장을 표명했습니다.
딥페이크는 치명적인 허위 정보 무기입니다
미국이 우려하는 위협은 다양하며, 국가의 지원을 받는 비국가 행위자들에 의해 악용될 수 있습니다. 딥페이크는 인공지능 도구로 만든 실제와 다름없는 가짜 영상을 활용하기 때문에 효과적인 선전 무기로 사용될 수 있습니다.
이러한 유형의 영상은 이미 소셜 미디어에서 등장하고 있습니다. 애니메이션 및 렌더링 소프트웨어를 이용해 제작된 이러한 미디어 콘텐츠는 지난 몇 년간 존재해 왔지만, 인공지능 생성 도구의 등장으로 누구나 쉽게 제작할 수 있게 되었고, 악의적인 세력은 이를 더욱 손쉽게 악용하여 특히 선거 운동 기간 동안 민감한 사안에 대한 여론을 조작할 수 있게 되었습니다.
유튜브, 페이스북, 트위터와 같은 소셜 미디어 플랫폼들은 이미 딥페이크 확산을 막기 위한 조치를 취했지만, 기술 발전과 함께 딥페이크를 제작하고 유포하는 방식 또한 변화하고 있습니다. 현재 마이크로소프트나 오픈아이얼과 같은 기업들이 개발한 도구들을 이용해 허위 정보를 퍼뜨리는 콘텐츠를 제작할 수 있습니다.
랜드 연구소와 그리폰 사이언티픽의 연구원들에 따르면, 훨씬 더 큰 우려는 AI 모델이 생물학 무기 개발을 위한 정보를 유출할 수 있다는 점이며, 미국 정보기관, 학계 전문가 및 싱크탱크들은 AI가 불량 세력의 손에 들어갈 가능성을 우려하고 있습니다.
그리폰 연구는 법학 석사(LLM)dent학생들이 어떻게 팬데믹을 일으킬 수 있는 바이러스를 개발하는 데 도움이 될 수 있는 박사 수준의 전문 지식을 생산해낼 수 있는지, 그리고 이것이 비국가 행위자들에 의해 생물학 무기로 사용될 수 있는지를 밝혀냈습니다.
AI 모델을 이용한 사이버 공격 증폭
국토안보부는 또한 철도 및 파이프라인과 같은 중요 기반 시설에 대한 사이버 공격이 인공지능을 이용해 더욱 대규모적이고 복잡한 사이버 공격을 더욱 신속하게 수행할 수 있는 새로운 도구들을 개발함으로써 가능해질 것이라는 우려를 표명했습니다.
해당 기관은 또한 중국이 악성코드 공격에 사용될 수 있는 인공지능 소프트웨어를 개발하고 있으며, 국가의 사이버 방어 체계를 무력화할 수 있는 인공지능 기술도 연구하고 있다고 밝혔습니다.
지난 2월, 마이크로소프트는 LLM(지능형 악성코드)을 활용하여 해킹 공격을 완성하는 사이버 그룹들을dent했으며, 이들이 러시아, 북한, 중국 정부 및 이란 혁명수비대의 군사 정보기관과 연계되어 있다고 지적하는 보고서를 발표했습니다.
금지한다고 발표했습니다 사이버 단체를 . 수요일에는 정치인들이 바이든 정부가 AI 모델의 수출을 통제하여 잠재적 적대 세력에 노출되는 것을 방지하는 데 도움이 되는 법안을 제안했습니다.
해당 분야 워싱턴이 인공지능(AI) 관련 위험에 대한 해결책을 모색하는 동시에 혁신을 저해할 수 있는 과도한 규제를 피하려고 노력하고 있다고 분석했습니다. 또한, AI 발전을 엄격하게 규제하는 것은 해외 경쟁업체에 유리한 환경을 조성하고 인프라, 국가 안보, 신약 개발 분야에 부정적인 영향을 미칠 수 있다고 지적했습니다.
