기계 학습 제거는 책임 있고 윤리적인 AI 배포의 길을 열습니다

인공지능(AI) 분야의 전환점에서 연구자들은 기술과 관련된 시급한 문제, 즉 AI 시스템이 잊는 방법을 가르치는 문제를 다루고 있습니다. AI 서밋은 이 문제를 최전선에 끌어올리며, AI가 제기하는 위험을 완화하는 데 있어 '기계 학습 제거'의 중요성을 강조했습니다. 

AI가 사회의 다양한 측면에 계속 통합됨에 따라 그 혜택은 부인할 수 없지만, 잠재적 위험도 마찬가지입니다. 이 싹트는 연구 분야는 특히 현대 AI 응용 프로그램에서 중심적인 역할을 하는 딥 뉴럴 네트워크(DNN)에서 문제 있는 데이터를 효율적이고 비용 효과적으로 제거하여 이러한 우려를 해결하려고 합니다.

ChatGPT와 Bard와 같은 잘 알려진 모델을 포함한 현대 DNN을 훈련하는 것은 상당한 컴퓨팅 자원과 시간을 요구하는 집약적인 과정입니다. 대형 언어 모델로 알려진 이러한 모델은 훈련에 막대한 양의 데이터와 에너지가 필요하며, 이는 수만 가구가 1년 동안 사용할 수 있는 전력인 수십 기가와트시에 해당합니다. 문제의 핵심은 특정 데이터를 잊도록 AI 시스템을 재훈련하는 것이 번거롭고 자원 집약적인 작업이라는 사실에 있습니다.

이러한 도전에 대응하기 위해 '기계 학습 제거'라는 새로운 연구 분야가 등장했습니다. 연구자들은 사회에 위험을 초래하는 데이터를 효율적으로 잊도록 AI 모델을 가능하게 하는 기술을 개발하기 위해 노력하고 있으며, 높은 정확도를 유지합니다. 이 연구의 선두에는 워릭 대학교와 구글 딥마인드의 컴퓨터 과학 전문가들의 협력이 있습니다.

워릭 대학교 컴퓨터 과학과의 피터 트리아نت필루 교수는 최근 arXiv 사전 인쇄 서버에서 '무제한 기계 학습 제거(Towards Unbounded Machine Unlearning)'라는 제목의 공동 저서 논문을 발표했습니다. 그는 수조 개의 매개변수를 포함할 수 있는 딥 뉴럴 네트워크(DNN)의 복잡성을 강조하며, 이러한 모델이 어떻게 그리고 왜 목표를 달성하는지 이해하기 어렵다고 말합니다. 이러한 복잡성과 그들이 훈련되는 방대한 데이터셋은 DNN이 사회에 끼칠 잠재적 피해에 대한 우려를 제기합니다.

편견 및 프라이버시 우려 해소

DNN과 관련된 가장 중요한 위험 중 하나는 편향된 데이터의 존재입니다. 이러한 모델은 편견으로 가득 찬 데이터셋에서 학습하여 부정적인 고정관념을 영속화할 수 있습니다. 예를 들어, AI 시스템은 의사를 남성과, 간호사를 여성과 잘못 연관짓거나 인종적 편견을 강화할 수 있습니다. 또한 DNN은 이미지 인식과 같은 응용 프로그램에서 심각한 영향을 미칠 수 있는 '잘못된 주석'이 포함된 데이터를 통합할 수 있습니다.

더욱이 개인 프라이버시 침해는 주요 우려 사항입니다. GDPR과 같은 규정에 명시된 '잊힐 권리'는 개인이 데이터셋 및 AI 프로그램에서 자신의 데이터 삭제를 요청할 수 있는 권리를 부여합니다. 이는 기술 거인들에게 상당한 도전을 제기하며 효과적인 기계 학습 제거 기술의 필요성을 강조합니다.

기계 학습 제거의 약속

피터 트리아נט필루 교수와 그의 팀이 최근 수행한 연구는 획기적인 '기계 학습 제거' 알고리즘을 도출했습니다. 이 알고리즘은 DNN이 모델의 전체 재훈련을 필요로 하지 않고도 문제 있는 데이터를 선택적으로 잊도록 합니다. 중요하게도, 이는 잊어야 하는 세 가지 다른 유형의 데이터, 즉 편견, 잘못된 주석, 프라이버시 관련 문제를 구분합니다. 이 혁신은 AI와 관련된 위험을 완화하기 위한 실용적이고 효율적인 솔루션을 제공합니다.

기계 학습 제거는 이제 AI 기술의 책임 있는 배포를 보호하는 데 필수적인 도구로 자리 잡았습니다. 편견을 영속화하거나 오류를 포함하거나 프라이버시를 침해하는 데이터를 AI 시스템이 잊도록 허용함으로써, 사회는 윤리적 및 사회적 가치를 훼손하지 않고 AI의 혜택을 활용할 수 있습니다.