미국 상무부, AI 및 클라우드 제공업체를 위한 새로운 보고 규칙 제안

미국 상무부는 첨단 인공지능 개발자 및 클라우드 제공업체에 대한 새로운 보고 요구사항을 제안하여 기술의 안전과 보안을 보장하고자 합니다.

산업보안국(BIS)은 초창기 기업 및 슈퍼컴퓨터 구축에 투자하는 엔지니어링 클러스터 관리 기업들이 연방 당국에 필수적인 개발 활동을 제출할 의무가 있음을 명확히 했습니다. 이러한 경향은 사이버 보안과 관련된 보안 위협 및 인공지능 자원의 오용을 줄이기 위한 것입니다.

새로운 제안에 따르면, 개발자들은 사이버 보안 조치 및 레드 팀링(Red-teaming) 노력에 중점을 두어 인공지능 시스템에 대한 상세 정보를 공개해야 합니다. 레드 팀링은 사이버 보안에서 사용되는 기법으로, 사이버 테러를 가능하게 하거나 대량 살상 무기의 생성을 용이하게 하는 등 인공지능의 유해한 용도를 평가합니다.

AI 개발자들은 사이버 보안 조치 및 위험 테스트 보고를 위한 새로운 의무 부과

상무부의 제안은 또한 AI 개발자들이 사이버 공격과 같은 위험한 기능과 관련된 레드 팀링 활동 결과를 보고서에 포함하도록 요구합니다. 이 방법은 냉전 시대 시뮬레이션에서 유래한 것으로, 공격이나 침해 시뮬레이션을 통해 위험을 식별합니다.

조직들은 외국 이해관계자나 시스템을 중요한 악의적 목적으로 남용하려는 비국가 행위자로부터의 공격에 대해 AI 시스템이 얼마나 잘 견디고 있는지를 업데이트해야 합니다.

사용자 프롬프트에 따라 텍스트, 이미지 또는 비디오를 생성할 수 있는 생성형 AI는 우려를 불러일으켰습니다. 이 기술은 많은 분야에서 진전을 가져왔지만, 일자리 손실, 선거 개입, 그리고 인공지능이 인간을 지배할 위험과 같은 가능한 위협에 대한 두려움도 증가시켰습니다.

새로운 보고 가이드라인은 이러한 위험이 현실화될 가능성을 줄이며 AI 모델의 안전하고 신뢰할 수 있는 개발을 보장하는 것을 목표로 합니다.

클라우드 제공업체는 보안 및 AI 개발에 대한 새로운 보고 기준을 충족해야 합니다

인공지능 개발자 외에도, 제안된 규칙은 아마존 웹 서비스(AWS), 구글 클라우드, 마이크로소프트 애저와 같은 클라우드 서비스 제공업체에도 적용됩니다. 인공지능 개발을 추진하는 데 필수적인 이러한 플랫폼은 인프라의 사이버 보안에 대해 엄격한 기준을 준수해야 합니다. 상무부는 이 정보가 다른 국가들에 의한 미국 기술의 오용을 방지하는 데 중요하다고 강조했습니다.

이 규제 강화는 2023년 10월 조 바이든 대통령이 서명한 행정명령에 따른 것입니다. 이 명령은 인공지능 기술 개발자들이 기술을 공개하기 전에 미국 정부에 안전 테스트 결과를 제출하도록 요구합니다. 상무부가 발행한 초안은 인공지능이 국가 안보, 공공 건강 및 경제에 제기하는 위협으로부터 보호하려는 더 넓은 목표와 일치합니다.

이 제안은 또한 바이든 행정부가 중국이 인공지능 개발을 위해 미국 기술에 접근하는 것을 방지하기 위해 취한 이전 조치에 이어진 것으로, 끊임없이 확장되는 이 산업 내에서 보안 우려가 증가하고 있음을 시사합니다.