미국 상무부는 인공지능 및 클라우드 서비스 제공업체를 위한 새로운 보고 규칙을 제안했습니다

미국 상무부는 첨단 인공지능 개발업체와 클라우드 서비스 제공업체에 대한 새로운 보고 요건을 제안하여 해당 기술의 안전과 보안을 보장하고자 합니다.

산업안보국(BIS)은 슈퍼컴퓨터 개발에 투자하는 혁신 기업 및 엔지니어링 클러스터 관리 기업들이 특정 핵심 개발 활동을 연방 당국에 제출해야 할 의무가 있음을 분명히 밝혔습니다. 이러한 조치는 사이버 보안 위협을 줄이고 인공지능 자원의 오용을 방지하기 위한 것입니다.

새로운 제안에 따르면, 개발자들은 인공지능 시스템에 대한 자세한 정보를 공개해야 하며, 특히 사이버 보안 조치와 레드팀 활동에 중점을 두어야 합니다. 레드팀 활동은 사이버 보안에서 사용되는 기법으로, 사이버 테러를 조장하거나 대량살상무기 개발을 용이하게 하는 등 인공지능이 악용될 가능성을 평가하는 것입니다.

AI 개발자들은 사이버 보안 조치 및 위험 테스트 결과를 보고해야 하는 새로운 의무에 직면해 있습니다

상무부의 제안에는 AI 개발자들이 보고서에 레드팀 활동 결과, 특히 사이버 공격과 같은 위험한 기능과 관련된 결과를 포함하도록 요구하는 내용도 담겨 있습니다. 냉전 시대 시뮬레이션에서 유래한 이 방법은 공격이나 침해를 모의하여 위험을 식별dent.

조직들은 외국 세력이나 국가가 아닌 행위자들이 악의적인 목적으로 시스템을 악용하려는 시도를 포함하여, 자사의 AI 시스템이 공격에 얼마나 잘 대응하는지 지속적으로 업데이트해야 할 의무가 있습니다.

사용자의 입력에 따라 텍스트, 이미지 또는 비디오를 생성할 수 있는 생성형 인공지능이 우려를 불러일으키고 있습니다. 이 기술은 여러 분야에서 발전을 가져오지만, 일자리 감소, 선거 개입, 인공지능의 인간 지배 가능성 등과 같은 잠재적 위협에 대한 불안감도 커지고 있습니다.

새로운 보고 지침은 인공지능 모델의 안전하고 신뢰할 수 있는 개발을 보장하고 이러한 위험이 현실화될 가능성을 줄이는 것을 목표로 합니다.

클라우드 서비스 제공업체는 보안 및 AI 개발에 관한 새로운 보고 기준을 충족해야 합니다

제안된 규정은 인공지능 개발자뿐만 아니라 아마존 웹 서비스(AWS), 구글 클라우드, 마이크로소프트 애저와 같은 클라우드 서비스 제공업체에도 적용될 것입니다. 인공지능 개발에 필수적인 이러한 플랫폼들은 인프라의 사이버 보안에 대한 엄격한 기준을 준수해야 합니다. 상무부는 이러한 정보가 다른 국가들이 미국 기술을 악용하는 것을 방지하는 데 중요하다고 강조했습니다.

이번 규제 강화 움직임은 조 바이든dent 이 2023년 10월에 서명한 행정명령에 따른 것입니다. 해당 행정명령은 인공지능 기술 개발업체들이 기술을 대중에게 공개하기 전에 안전성 테스트 결과를 미국 정부에 제출하도록 요구하고 있습니다. 상무부가 발표한 이번 초안은 국가 안보, 공중 보건 및 경제를 인공지능이 제기하는 위협으로부터 보호하려는 더 광범위한 목표와 맥락을 같이합니다.

이번 제안은 바이든 행정부가 이전에 추진했던, 중국이 인공지능 개발을 위한 미국 기술에 접근하는 것을 막기 위한 조치들을 더욱 강화하려는 노력의 일환으로, 끊임없이 확장하는 이 산업 분야에서 안보 우려가 커지고 있음을 시사합니다.