AI 모델 붕괴와 AI 학습의 도미노 효과를 방지하는 방법

TL;DR 요약

• AI 생성 데이터를 사용하여 AI 모델을 훈련하면 왜곡된 인식과 부정확한 표현이 초래됩니다.
• AI 모델 훈련에 AI 생성 데이터를 사용하면 모델 붕괴와 실제 데이터 분포로부터의 편차가 발생할 가능성이 있습니다.
• AI 모델 붕괴를 방지하고 정확성을 유지하기 위해서는 인간이 생성한 데이터를 우선시하는 것이 중요합니다.

인공 지능(AI)은 최근 몇 년 동안 기계 학습 모델의 발전으로 인해 놀라운 진전을 이루었으며, 이는 상당한 돌파구로 이어졌습니다. 반면에, AI 모델이 AI 생성 데이터를 사용하여 훈련되는 우려스러운 트렌드가 나타나고 있습니다. '재귀의 저주: 생성 데이터로 훈련하면 모델이 잊어버린다(The Curse of Recursion: Training on Generated Data Makes Models Forget)'라는 제목의 논문에서 저명한 기관들의 연구자들은 이러한 관행의 잠재적 위험에 대해 조명했습니다. 그들은 이러한 접근 방식이 AI 모델이 현실을 정확하게 지각하는 능력을 잃는 '모델 붕괴(model collapse)'라는 현상으로 이어질 수 있다고 경고합니다. 이 기사는 모델 붕괴의 미묘한 점들을 파고들고, AI 모델의 무결성을 유지하기 위해 인간이 생성한 데이터에 의존하는 것의 중요성을 강조합니다.

재귀의 저주는 모델 붕괴로 이어집니다

캠브리지, 옥스퍼드, 토론토 대학, 그리고 런던 임페리얼 칼리지의 연구자들은 AI 생성 데이터를 사용하여 AI 모델을 훈련하는 것의 우려스러운 결과를 규명했습니다. 그들의 발견에 따르면, 모델 붕괴는 생성된 데이터가 후속 모델 세대의 훈련 세트에 오염될 때 발생합니다. 더 간단히 말하면, AI 모델은 오염된 데이터로 훈련됨으로써 현실에 대한 왜곡된 인식을 개발합니다. 결과적으로 그들은 실제 근본 데이터 분포에서 벗어난 부정확한 표현을 생성합니다.

모델 붕괴 문제는 특정 유형의 AI 모델로 국한되지 않습니다. 일부 연구자들은 대규모 언어 모델(LLMs), 변분 오토인코더, 가우시안 혼합 모델 등 다양한 학습된 생성 모델 및 도구에서 이를 관찰합니다. 세대가 거듭될수록 모델이 원래 데이터 분포를 점차 잊어버리기 때문에 문제가 악화됩니다. 그 결과는 현실과 단절된 시뮬레이션이 되어 AI 모델이 환각 상태에 빠지게 만듭니다.

AI가 AI로부터 학습하는 것은 위험한 트렌드입니다

AI 모델이 AI 생성 데이터를 사용하여 훈련되는 현상은 우려스러운 트렌드를 나타냅니다. 기술이 발전함에 따라 때때로 기계 학습 모델은 다른 AI 시스템의 출력을 의도적으로 사용하여 훈련됩니다. 예를 들어, 언어 학습 모델(LLMs)은 GPT-4가 생성한 출력을 사용하여 훈련되고 있습니다. 또한 DeviantArt와 같은 플랫폼은 AI가 생성한 예술 작품을 게시하고 이를 더 새로운 AI 모델의 훈련 데이터로 사용할 수 있게 합니다. 이는 한 걸음 전진하는 것처럼 보일 수 있지만, 상당한 위험을 수반합니다.

연구자들은 AI가 AI로부터 학습하는 과정이 모델 붕괴의 확산으로 이어질 수 있다고 경고합니다. 무한한 복제를 시도할 때 발생하는 문제와 유사하게, AI 생성 데이터를 사용하여 AI 모델을 훈련하면 부정확성과 왜곡의 연쇄 반응을 초래할 수 있습니다. 모델이 오염된 데이터로부터 계속 학습함에 따라 실제 데이터 분포로부터 더 멀어지며, 그 결과 현실 세계에 대한 이해를 상실하게 됩니다.

인간이 생성한 데이터는 모델 붕괴를 방지합니다

모델 붕괴의 해로운 결과를 방지하기 위해서는 원래 인간이 생성한 데이터 소스에 대한 접근을 유지하는 것이 중요합니다. 연구자들은 AI 모델 훈련에 있어 '선구자 우위(first-mover advantage)'가 있다고 제안합니다. 모델이 실제 인간이 생산한 데이터로 훈련되도록 보장함으로써 분포 이동과 후속 모델 붕괴의 위험을 완화할 수 있습니다.

모델 붕괴를 방지하려면 연구 논문에서 식별된 두 가지 주요 원인을 해결해야 합니다. '통계적 근사 오차'는 제한된 수의 데이터 샘플로 인해 첫 번째 원인이 됩니다. 두 번째 원인은 '기능적 근사 오차'로, AI 훈련 중 오차 마진의 부적절한 구성으로 인해 발생합니다. 이러한 오류는 세대를 거치며 누적되어 모델 내에서 부정확성의 증가하는 연쇄 반응을 초래할 수 있습니다.

AI 모델의 미래 보호

AI가 AI로부터 학습하는 현상은 AI 모델의 미래에 상당한 도전을 제시합니다. AI 모델이 현실을 정확하게 지각하는 능력을 잃는 모델 붕괴 현상은 즉각적인 주의를 요구합니다. 모델 붕괴를 방지하고 AI 모델의 무결성을 보장하기 위해서는 원래 인간이 생성한 데이터 소스에 대한 접근을 유지하거나 기계 생성 콘텐츠와 인간 생산 콘텐츠를 구분할 수 있는 능력이 필수적입니다.