MIT 연구진, AI 위험 저장소 발표

MIT 연구진과 여러 기관들이 인공지능 시스템으로 인해 발생하는 다양한 위험 요소를 기록한 광범위한 데이터베이스인 AI 위험 저장소(AI Risk Repository)를 구축했습니다. 이는 인공지능 기술이 빠르게 발전하고 있는 가운데, 인공지능 시스템 사용에 따른 위험 또한 급속도로 증가하고 있음을 보여줍니다.

이 저장소는 정부, 연구기관, 기업 및 산업계와 같은 다양한 기관의 의사 결정권자들이 인공지능이 지닌 혁신적인 잠재력과 관련된 새로운 위험을 평가하는 데 도움을 주기 위해 마련되었습니다.

이 저장소는 AI 관련 위험에 대한 체계적인 문서를 제공합니다.

여러 기관과 연구자들이 인공지능 위험 해결의 중요성을 인식하고 있지만, 이러한 위험을 문서화하고 분류하려는 노력은 대체로 미흡하여 서로 상충되는 분류 체계로 인해 파편화된 상황을 초래했습니다.

"저희는 AI 위험에 대한 완벽하고 포괄적인 개요를 체크리스트로 활용하고 싶었습니다."라고 MIT 퓨처테크 신임 박사후 연구원이자 프로젝트 책임자인 피터 슬래터리가 벤처비트.

"하지만 관련 문헌을 살펴보니 기존의 위험 분류 체계는 마치 직소 퍼즐 조각과 같았습니다. 개별적으로는 흥미롭고 유용하지만, 불완전한 분류 체계였죠."

슬래터리.

AI 위험 저장소는 동료 검토 논문, 사전 출판 논문, 학회 논문 및 보고서를 포함한 43개의 기존 분류 체계의 정보를 통합하여 위의 문제를 해결합니다.

이처럼 꼼꼼한 선별 과정을 통해 700개 이상의 독점적인 위험 요소를 담은 데이터베이스가 구축되었습니다. 이 저장소는 두 가지 차원의 분류 시스템을 활용합니다.

첫째, 위험은 원인에 따라 분류되며, 책임 주체(인간 또는 AI), 의도(비의도적 또는 국제적), 발생 시점(개발 후 또는 배포 전)을 고려합니다.

MIT에 따르면, 이러한 기본적인 분류는 인공지능 위험이 발생할 수 있는 상황과 메커니즘을 이해하는 데 도움이 됩니다.

MIT 연구진은 AI 관련 위험을 7가지 범주로 분류했습니다.

반면, 위험은 허위 정보 및 악의적인 행위자, 오용, 차별 및 유해성, 개인정보 보호, 보안 등 7가지 영역으로 분류됩니다.

AI 위험 저장소는 지속적으로 업데이트되는 데이터베이스로 설계되었으며, 누구나 다운로드하여 활용할 수 있도록 공개되어 있습니다.

연구팀은 새로운 위험 요소, 최신 연구 결과 및 변화하는 추세를 반영하여 데이터베이스를 정기적으로 업데이트할 계획을 세울 수 있습니다.

AI 위험 저장소는 다양한 분야의 기업들에게 실질적인 자료가 되도록 설계되었습니다. 특히 AI 시스템을 개발하는 기관들에게는 위험을 평가하고 완화하는 데 매우 유용한 체크리스트 역할을 합니다.

"인공지능을 사용하는 조직은 인공지능 위험 데이터베이스와 분류 체계를 활용하여 위험 노출 및 관리를 종합적으로 평가하는 데 도움을 받을 수 있습니다."

MIT 연구진.

연구진은 "이러한 분류 체계는 특정 위험을 완화하기 위해 수행해야 하는 구체적인 행동을dent데에도 도움이 될 수 있다"고 덧붙였다.

예를 들어, AI 기반 채용 시스템을 구축하는 조직은 해당 저장소를 활용하여 차별 및 편견과 관련된 잠재적 위험을 파악할 수 있습니다.

따라서 콘텐츠 검열에 AI를 활용하는 기업은 "허위 정보" 영역을 활용하여 AI 생성 콘텐츠와 관련된 잠재적 위험을 파악하고 필요한 안전망을 구축할 수 있습니다.

MIT 연구진은 협력하여 퀸즐랜드 대학교, 미래생명연구소, KU 루벤, 그리고 AI 스타트업인 하모니 인텔리전스의 동료들과

연구진은 또한 AI 위험 저장소가 향후 연구에서 더 많은 부족한 부분을dent하는 데 도움이 될 것이라고 밝혔습니다.

MIT 퓨처테크 랩의 책임자인 닐 톰슨은 "우리는 이 저장소를 활용하여 조직들이 위험에 대응하는 방식에서 발생할 수 있는 잠재적인 격차나 불균형을dent것입니다."라고 말했습니다.