- Microsoft 연구진이 해리 포터와 같은 특정 정보를 대량 재학습 없이 AI 모델에서 잊게 만드는 새로운 방법을 공개했습니다.
- 이들의 3단계 기법은 GPU 시간 1시간 만에 지식을 효율적으로 삭제하면서도 AI의 전반적인 성능은 유지합니다.
- 이번 돌파구는 미래에 더 유연하고 윤리적인 AI 모델을 향한 희망을 제시합니다.
인공지능(AI) 분야에서 주목할 만한 진전으로, 마이크로소프트 연구진들은 대규모 언어 모델(LLM) 내 특정 지식을 선택적으로 수정하는 선구적인 접근 방식을 공개했습니다. 이 획기적인 방법론은 잘 알려진 arXiv.org 플랫폼에 최근 논문으로 상세히 설명되었으며, LLM 학습 과정에서 저작권이 있는 자료를 사용하는 것과 관련된 적법한 문제를 다룹니다. 또한, 이러한 모델이 광범위한 재학습 없이도 적응할 수 있는지에 대한 유망한 해결책을 제시합니다.
적응성에서의 중요한 도약
오픈AI의 ChatGPT, 메타의 Llama 2, 앤트로픽의 Claude 2를 포함한 대규모 언어 모델은 저작권이 있는 자료를 포함할 수 있는 방대한 데이터셋에 기반하여 텍스트 콘텐츠를 생성하는 탁월한 능력으로 인해 상당한 관심과 scrutiny(감시)를 받아왔습니다. 이러한 모델을 특정 정보를 잊거나 '학습 취소(unlearn)'하도록 사용자 지정하는 과제는 오랫동안 우려 사항이었습니다.
1 GPU 시간 내 효율적인 삭제
마이크로소프트의 연구진인 로넨 엘단(Ronen Eldan)과 마크 러시노비치(Mark Russinovich)는 이 과제에 우아한 해결책을 제시했습니다. 그들의 논문은 LLM에서 특정 정보를 '잊는' 과정을 근사화하도록 설계된 3단계 기법을 소개합니다. 그들의 접근 방식에서 가장 주목할 만한 점은 그 효율성입니다. 특히, 그들은 파인튜닝에 단 1개의 GPU 시간만 사용하여 해리 포터 책 시리즈의 등장인물과 줄거리 세부 사항을 포함한 모든 관련 지식을 삭제하는 능력을 입증했습니다. 이러한 높은 효율성은 더 적응력이 뛰어나고 반응이 빠른 언어 모델 개발에 큰 가능성을 시사합니다.
3단계 기법 해부
엘단과 러시노비치의 기법은 주로 지식 축적에 중점을 두고 학습 취소에 대한 명확한 메커니즘을 제공하지 않는 전통적인 머신러닝 접근 방식과는 뚜렷이 구별됩니다. 그들의 혁신적인 접근 방식은 다음과 같은 3가지 기본 단계로 구성됩니다.
1. 관련 토큰 식별: 초기 단계에서는 대상 데이터(이 경우 해리 포터 책)를 사용하여 모델을 학습시킵니다. 모델은 기준 모델이 생성한 예측과 비교하여 대상 데이터와 가장 밀접하게 연관된 토큰을 식별합니다. 이 초기 단계는 삭제할 지점을 특정하는 기반이 됩니다.
2. 고유 표현식 대체: 두 번째 단계는 해리 포터 시리즈에 고유한 표현식을 일반적인 표현식으로 대체하는 것입니다. 이렇게 함으로써 연구진은 특정 학습 데이터가 없는 모델의 출력을 효과적으로 반영하는 대체 예측을 생성합니다. 이 대체 과정은 지식 삭제 프로세스의 핵심 요소입니다.
3. 파인튜닝 및 삭제: 마지막 단계는 대체 예측을 활용하여 기준 모델을 파인튜닝하는 것입니다. 이 파인튜닝 과정은 해리 포터 시리즈와 관련된 문맥이 제공될 때 모델의 메모리에서 원본 텍스트를 삭제합니다. 이 중요한 단계는 모델이 해리 포터 책의 복잡한 서사를 '잊도록' 합니다.
성공 평가
엘단과 러시노비치는 방법론의 효과를 측정하기 위해 포괄적인 일련의 테스트를 수행했습니다. 그들은 300개의 자동 생성 프롬프트를 사용하여 해리 포터 시리즈와 관련된 콘텐츠를 생성하거나 논의하는 모델의 숙련도를 검토하고 토큰 확률을 신중하게 분석했습니다. 가장 중요한 것은, 그들의 발견에 따르면 단 1시간의 파인튜닝 후 모델이 해리 포터 시리즈의 상세한 서사를 본질적으로 '잊을' 수 있었다는 것입니다. 놀랍게도 이 삭제는 ARC, BoolQ, Winogrande와 같은 표준 벤치마크 평가에서 모델의 성능에 최소한의 영향만 미쳤습니다.
함의 및 향후 연구
이 획기적인 기법이 상당한 가능성을 보여주지만, 특히 대규모 언어 모델 내 더 광범위한 학습 취소 작업과 관련하여 방법론을 정제하고 확장하기 위해서는 추가 연구가 필수적임을 강조해야 합니다. 이 접근 방식은 고유한 참조가 존재하기 때문에 해리 포터 시리즈와 같은 허구적 텍스트에 특히 효과적일 수 있다는 점에 유의할 가치가 있습니다.
인공지능 시스템이 다양한 분야에서 점점 더 중요한 역할을 계속함에 따라, 특정 정보를 선택적으로 잊거나 학습 취소하는 능력이 최우선 과제가 됩니다. 이 방법론은 더 책임감 있고, 적응력이 뛰어나며, 법적 요구사항을 준수하는 LLM을 개발하기 위한 기초적인 단계입니다. AI 분야가 계속 발전함에 따라 윤리적 지침, 사회적 가치 및 사용자의 특정 요구사항을 해결할 잠재력을 가지고 있습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
브렌다 카나나
브렌다는 4 년 이상의 경험을 바탕으로 암호화폐, 인공지능 및 신기술 분야를 전문으로 합니다. 그녀는 Zycrypto, Blockchain Reporter, The Coin Republic 에서 근무했으며, 현재는 Cryptopolitan 에서 활동하고 있습니다. 몬바사 공과대학교에서 사회학 학위를 취득한 그녀는 독자들의 니즈를 항상 파악하고 있습니다.
