미국 국립표준기술연구소(NIST)는 인공지능(AI) 시스템의 안전성, 보안성 및 신뢰성을 보장하기 위한 네 가지 초안 문서를 발표함으로써 AI 관련 과제 해결에 적극적으로 나서고 있습니다. 2024년 6월 2일까지 진행되는 이 기간 동안 해당 초안 문서에 대한 의견 수렴이 공개됩니다. 이는 책임 있는 혁신을 촉진하고 미국의 기술 리더십을 유지하는 동시에 AI 기술의 부정적인 영향을 완화하는 데 중점을 둔 2023년 10월 AI 관련 행정명령에 대한 NIST의 대응을 반영한 것입니다.
생성형 AI의 위험 완화
(NIST)의 에서 주요 관심사 중 하나는 생성형 AI 기술에서 발생하는 보안 위협입니다. AI 위험 관리 프레임워크(RIMF)의 생성형 AI 프로파일은 민감한 정보에 대한 높은 접근성부터 혐오 발언 및 악성 콘텐츠 확산에 이르기까지 12가지 위험 요소를 제시합니다. NIST는 이러한 위험에 대한 대응을 핵심 과제로 삼고 있으며, 조직에서 고려할 수 있는 400개 이상의 잠재적 위험 관리 조치를 식별했습니다 dent 이 프레임워크는 개발자가 따르고 목표와 우선순위를 정할 수 있는 구조를 제공합니다.
훈련 데이터 위험 최소화
초안에 제시된 또 다른 핵심 내용은 AI 시스템 학습에 사용되는 데이터를 보호하는 방법입니다. NIST의 기존 지침의 일부인 "생성형 AI 및 이중 용도 기반 모델을 위한 안전한 소프트웨어 개발 관행" 초안은 악의적인 학습 데이터에 대한 우려 속에서 AI 시스템의 무결성을 보장하기 위해 작성되었습니다. NIST는 컴퓨터 코드의 보안을 강화하는 몇 가지 방법을 제시하고 데이터 수집 및 사용을 포함한 데이터 관련 문제에 대한 해결책을 제공합니다. 이를 통해 AI 시스템은 잠재적인 위협에 더욱 안전하게 대응할 수 있게 됩니다.
AI가 생성한 콘텐츠의 투명성 증진
급증하는 합성 디지털 자료에 대응하여 미국 국립표준기술연구소(NIST)는 '합성 자료로 인한 위험 감소'라는 제목의 차기 문서를 통해 이러한 자료들이 제기하는 위험을 완화하기 위한 방안을 개발하고 있습니다. NIST는 디지털 워터마킹 및 메타데이터 기록을 통해 변조된 미디어를 trac하고dent기술을 개발하고자 하며, 이를 통해 동의 없이 촬영된 성적 이미지나 아동 성착취물 배포와 같은 부정적인 결과를 예방할 수 있기를 기대합니다.
AI 표준에 대한 글로벌 참여를 촉진합니다
인공지능 관련 표준을 정립하는 데 있어 국제 협력이 핵심 요소라는 점을 인식하여, 미국 국립표준기술연구소(NIST)는 인공 지능 표준에 관한 글로벌 협력 계획 초안을 발표했습니다. 이 계획의 목표는 국제 동맹국, 표준 개발 기구, 그리고 민간 부문 간의 협력과 조율을 촉진하여 인공지능 기술 표준 개발을 가속화하는 것입니다. NIST는 콘텐츠 출처 확인 및 테스트 방법을 최우선 과제로 삼아, 전 세계적으로 안전하고 윤리적으로 건전한 인공지능 기술 운영을 보장하는 강력한 체제를 구축하고자 tron .
NIST GenAI 시작
또한, NIST는 생성형 인공지능 도구의 역량을 평가하고 정량화하는 소프트웨어 도구인 NIST GenAI를 개발했습니다. NIST GenAI는 NIST AI 안전 연구소가 AI 알고리즘 입력과 인간이 생성한 콘텐츠를 구분하는 데 도움이 되는 과제를 제시하고 시범 평가를 수행하는 데 활용될 것입니다. 이 계획의 주요 목표는 정보의 신뢰성을 높이고 AI 시대의 콘텐츠 제작에 대한 윤리적 측면에 대한 지침을 제공하는 것입니다.
미국 국립표준기술연구소(NIST)의 이번 초안 보고서 발표와 NIST GenAI 출범은 사회가 직면한 인공지능 관련 문제를 해결하고 동시에 사회 혁신의 안전성을 확보하기 위한 적극적이고 발전 지향적인 이니셔티브를 의미합니다. NIST는 인공지능 기술을 개발하거나 배포한 기업 등 주요 이해관계자들의 의견을 수렴하여 인공지능 안전 및 표준 가이드라인 수립에 기여하고자 합니다. 이해관계자들이 적극적으로 참여함으로써 가장 바람직한 모범 사례와 업계 표준 접근 방식을 정립할 수 있으며, 이는 궁극적으로 안전하고 신뢰할 수 있는 인공지능 생태계 구축으로 이어질 것입니다.
