책임 있는 AI 개발을 위한 국제 협정 발표

인공지능(AI)의 안전하고 책임 있는 개발을 보장하기 위한 중요한 진전으로, 미국, 영국, 싱가포르 및 기타 15개국이 협력하여 책임 있는 AI 개발에 초점을 맞춘 최초의 포괄적인 국제 협정을 공동으로 발표했습니다. 이 역사적인 이니셔티브는 구속력이 없지만, AI 시스템의 초기 단계부터 보안 조치를 우선시하는 데 있어 중요한 한 걸음을 의미합니다.

책임 있는 AI를 위한 글로벌 노력

최근 공개된 20페이지 분량의 문서에 outlined된 이 국제 협정은 미국, 싱가포르, 영국, 독일, 이탈리아, 체코, 에스토니아, 폴란드, 호주, 칠레, 이스라엘, 나이지리아 등 18개국이 참여합니다. 비록 구속력은 없지만, 이 협정은 소비자 및 더 넓은 대중을 잠재적 오용으로부터 보호하는 것을 최우선으로 하여 AI 시스템을 개발하고 배포하려는 공유된 의지를 강조합니다.

미국 사이버보안 및 인프라 보안국(CISA) 국장인 젠 이스터리는 이 협정의 중요성을 강조했습니다. 이는 여러 국가가 AI 시스템 설계 단계에서 보안을 우선시할 필요성을 집단적으로 인정한 첫 번째 사례입니다. 이스터리는 이러한 가이드라인이 단순한 기능이나 시장 경쟁을 넘어 보안 고려사항의 중요성을 강조한다고 지적했습니다.

주요 쟁점을 다루는 프레임워크

이 포괄적인 프레임워크는 AI 기술이 잘못된 손에 넘어가는 것을 방지하는 데 관련된 중요한 쟁점들을 다룹니다. 여기에는 AI 모델 출시 전 강력한 보안 테스트 권고사항과 AI 시스템의 잠재적 남용을 모니터링하기 위한 조치가 포함됩니다. 또한 데이터 변조로부터의 보호와 보안 기준 준수를 위한 소프트웨어 공급업체 심사에 중점을 둡니다.

다만, 이 협정은 AI의 적절한 사용 정의나 데이터 수집 방법에 대한 우려와 같은 더 논쟁적인 측면에는 깊이 들어가지 않는다는 점에 유의하는 것이 중요합니다.

AI 위험을 억제하기 위한 글로벌 이니셔티브

이 국제 협정은 AI 개발의 궤도를 형성하기 위한 일련의 글로벌 이니셔티브에 합류합니다. 이러한 가이드라인은 인공지능 분야에서 보안 고려사항을 우선시할 필요성에 대한 집단적 인식을 나타냅니다.

방금 지난달, G7(7개국) 산업국들은 첨단 AI 시스템을 개발하는 기업들을 위한 행동 강령에 동의하기로 결정했습니다. 이 11개 조항으로 구성된 행동 강령은 전 세계적으로 안전하고 신뢰할 수 있는 AI를 촉진하는 것을 목표로 합니다. 이는 정부들이 AI 기술의 위험과 잠재적 오용을 완화하기 위해 협력하려는 의사를 반영한 것입니다. 이 행동 강령은 기업들이 AI 전 생애주기에 걸쳐 위험을 식별, 평가 및 완화하기 위해 적극적으로 조치를 취해야 한다고 강조합니다.

마찬가지로 유럽연합(EU)은 인공지능법(Artificial Intelligence Act)에 대한 조기 합의를 이루며 상당한 진전을 보였으며, 이는 AI 기술의 사용을 규제하는 세계 최초의 포괄적인 법률 집합체가 될 가능성이 있습니다. 이 법에 따르면 ChatGPT와 Midjourney와 같은 생성형 AI 도구를 활용하는 기업들은 시스템 개발에 사용된 저작권이 있는 자료를 공개해야 합니다. 현재 이 입법은 EU 의원들과 회원국들 간의 협력을 통해 법안의 세부 사항을 최종 확정하는 과정에 있습니다. AI 도구는 낮은 위험에서 제한적, 높은 위험, 또는 허용되지 않는 위험까지 다양한 위험 수준에 따라 분류됩니다.

AI 규제를 위한 글로벌 동력

AI 규제를 위한 글로벌 동력이 계속 고조됨에 따라 G7(7개국)은 첨단 AI 시스템에 대한 행동 강령을 마련할 준비를 하고 있습니다. 방금 국제적으로 합의된 협정과 유럽연합의 AI 입법 작업과 함께 다가오는 AI 협정은 변화하는 인공지능 환경에 대응하기 위한 concerted efforts(일관된 노력)를 강조합니다. 초점은 여전히 AI 분야의 안전 조치와 책임 있는 개발 필요성에 맞춰져 있습니다.

책임 있는 AI 개발을 위한 국제 협정은 글로벌 AI 환경에서 중요한 전환점을 나타냅니다. 구속력은 없지만, 이 협정은 국가들이 AI 시스템의 보안을 우선시하고 공공의 이익을 보호하기로 약속했다는 명확한 메시지를 전달합니다. AI 기술이 계속 발전함에 따라 이러한 협력적 노력은 그 혜택을 활용하고 잠재적 위험을 완화하는 균형을 맞추는 것을 목표로 하며, 궁극적으로 인공지능의 책임 있는 미래를 형성합니다.