미국, 영국, 싱가포르를 비롯한 15개국이 인공지능(AI)의 안전하고 책임감 있는 개발을 보장하기 위한 중요한 진전으로, 책임 있는 AI 개발에 초점을 맞춘 최초의 포괄적인 국제 협약을 공동으로 발의했습니다. 비록 법적 구속력은 없지만, 이 역사적인 협약은 AI 시스템 개발 초기 단계부터 보안 조치를 우선시하는 데 중요한 발걸음을 의미합니다.
책임감 있는 AI를 위한 글로벌 노력
최근 공개된 20페이지 분량의 문서에 명시된 이 국제 협약에는 미국, 싱가포르, 영국, 독일, 이탈리아, 체코, 에스토니아, 폴란드, 호주, 칠레, 이스라엘, 나이지리아를 포함한 18개국이 참여했습니다. 이 협약은 법적 구속력은 없지만, 인공지능 시스템의 개발 및 배포 과정에서 소비자와 일반 대중을 오용으로부터 보호하는 데 중점을 두겠다는 공동의 의지를 보여줍니다.
미국 사이버보안 및 인프라 보안국(CISA) 국장인 젠 이스터리는 이번 합의의 중요성을 강조했습니다. 여러 국가가 인공지능 시스템 설계 단계에서 보안을 최우선으로 고려해야 한다는 점에 대해 공동으로 동의한 것은 이번이 처음입니다. 이스터리 국장은 이러한 지침이 단순한 기능이나 시장 경쟁력을 넘어 보안 고려 사항의 중요성을 강조한다고 밝혔습니다.
주요 이슈를 다루는 프레임워크
이 포괄적인 프레임워크는 인공지능 기술이 악용되는 것을 방지하는 데 중요한 문제들을 다룹니다. 인공지능 모델 출시 전 철저한 보안 테스트를 권장하고, 인공지능 시스템의 오용 가능성을 감시하는 방안을 제시합니다. 또한, 데이터 변조 방지 및 소프트웨어 공급업체의 보안 표준 준수 검증에도 중점을 둡니다.
하지만 이 협정은 인공지능의 적절한 사용 방안을 defi하거나 데이터 수집 방식에 대한 우려를 해소하는 등 더 논쟁적인 측면을 다루지 않는다는 점에 유의해야 합니다.
인공지능 위험을 억제하기 위한 글로벌 이니셔티브
이 국제 협약은 인공지능 개발의 방향을 설정하기 위한 일련의 글로벌 이니셔티브에 합류하는 것입니다. 이 지침은 인공지능 영역에서 안전 고려 사항을 최우선으로 고려해야 한다는 필요성에 대한 공동의 인식을 의미합니다.
지난달 주요 7개국(G7)은 첨단 인공지능(AI) 시스템을 개발하는 기업들을 위한 행동 강령에 합의했습니다. 11개 항으로 구성된 이 강령은 안전하고 신뢰할 수 있는 AI를 전 세계적으로 확산하는 것을 목표로 합니다. 이는 AI 기술의 위험성과 오용 가능성을 줄이기 위해 각국 정부가 협력하겠다는 의지를 반영한 것입니다. 강령은 기업들이 AI 개발 전 과정에 걸쳐 위험을dent, 평가 및 완화하기 위한 조치를 적극적으로 취해야 한다고 강조합니다.
마찬가지로 유럽연합(EU)은 인공지능법(Artificial Intelligence Act)에 대한 조기 합의에 도달함으로써 상당한 진전을 이루었으며, 이는 인공지능 기술 사용을 규제하는 세계 최초의 포괄적인 법률이 될 가능성이 있습니다. 이 법에 따라 ChatGPT나 Midjourney와 같은 생성형 인공지능 도구를 사용하는 기업은 시스템 개발에 사용된 모든 저작권 자료를 공개해야 합니다. 현재 EU 의원들과 회원국들은 법안의 세부 사항을 확정하기 위해 협의 중입니다. 인공지능 도구는 위험 수준에 따라 낮음~제한적, 높음, 허용 불가로 분류됩니다.
인공지능 규제에 대한 세계적인 움직임
인공지능(AI) 규제에 대한 전 세계적인 관심이 높아짐에 따라, 주요 7개국(G7)은 첨단 AI 시스템에 대한 행동 강령 제정을 준비하고 있습니다. 최근 체결된 국제 협약 및 유럽 연합의 AI 관련 법률 제정 노력과 더불어, 이번 AI 협약은 진화하는 인공지능 환경에 대응하기 위한 공동의 노력을 보여줍니다. 핵심은 AI 분야에서 안전 조치와 책임 있는 개발의 필요성입니다.
책임 있는 인공지능 개발을 위한 국제 협약은 글로벌 인공지능 환경에 있어 중요한 전환점이 될 것입니다. 비록 법적 구속력은 없지만, 이 협약은 각국이 인공지능 시스템의 보안을 최우선으로 고려하고 공공의 이익을 보호하겠다는 의지를 분명히 보여줍니다. 인공지능 기술이 지속적으로 발전함에 따라, 이러한 협력은 인공지능의 이점을 최대한 활용하는 동시에 잠재적 위험을 최소화하는 균형을 찾아 궁극적으로 책임 있는 인공지능의 미래를 만들어 나가는 것을 목표로 합니다.
