AI의 초점으로 인한 지식 붕괴 위협에 대한 연구 강조

푸아티에 대학교의 연구원인 앤드루 J. 피터슨은 최근 해커 뉴스와 레딧을 포함한 다양한 플랫폼에서 화제를 모은 연구를 발표했습니다. 

피터는 언어 모델 및 지식베이스 등 정보 요구를 채우는 AI 시스템에 대한 우리의 지속적인 증가하는 의존성으로 인해 이러한 “지식 붕괴”가 발생할 수 있다고 주장합니다. 즉, 컴퓨터화된 AI’s 는 사람들이 더 전통적인 지혜를 얻는 데 도움이 될 수 있지만, 발전에 필수적인 독특하고 비주류인 아이디어가 간과되고 잊혀질 위험이 있습니다.

지식 붕괴 이해하기

지식이 점점 더 압축되고 사람들이 정보의 대역폭이 좁아지는 경험을 지속적으로 하며 다양한 정보 저장소의 사용에 대한 가치를 덜 인식함에 따라, 피터슨은 인지적 붕괴를 진행 과정으로 소개합니다. 

그러나 이 현상은 훌륭한 도약을 만드는 혁신적인 아이디어에 대한 장애물일 뿐만 아니라, 모든 분야에서 돌파구를 찾는 데 필수적인 조건인 인간 사고의 다양성 자체를 위협합니다.

연구 논문은 AI 시스템이 반드시 읽어야 할 데이터 스트림과 숫자가 매우 인기 있는 것에 주의를 기울일 경우, 창의성과 혁신이 의존하는 비전통적인 지식 – 올바른 음식 – 이 제외되는 상황을 초래할 수 있는 방법을 설명합니다. 

피터슨은 우리가 지식 선택을 위해 이러한 AI 기술에 점점 더 의존할 경우, 제한된 범위의 이해와 상상력만 남긴 채 “동조자의 합창단”에 갇히게 될 것이라고 경고하는 것을 주저하지 않습니다.

지식 편향에 대한 AI의 탐색 

지식 붕괴의 실제 원인을 규명하려는 시도의 일환으로, 그는 AI 사용 시 지식이 축적되는 과정을 보여주는 간단한 수학적 모델을 고안했습니다. 그의 연구 결과는 AI 메커니즘이 주류 지식에 미세한 우위를 점함으로써 공개적인 지식 분포에 상당한 영향을 미치고, 변두리 지식 영역의 주변화를 악화시킨다는 것을 시사합니다. 

또한, 이 모델은 이러한 현상이 재귀적 자율 시스템 간의 상호 의존성에 의해 극도로 가속화될 수 있다고 제안합니다. 여기서 단순한 편향이나 AI를 관습성에 편향시키는 오류는 다음 반복(iteration)을 위한 템플릿으로 작용합니다.

Peterson의 모델에서 최전선의 개인적 학술 지식을 습득하는 과정의 인센티브는 막대한 가치를 지닙니다. 해당 논문은 이러한 인센티브가 경제적 및 사회적 압력으로 인해 사고 패턴이 동일해지고, 혁신적인 아이디어가 탄생하는 데 필요한 아이디어의 다양성이 차단되는 상황을 막아줄 유일한 방어선이 될 것이라고 명시합니다.

지식의 충분한 규모를 위한 AI의 도달 범위 균형 맞추기

지식의 브레인스토밍 아이디어는 한편으로는 가능한 파멸로 묘사되지만, 다른 한편으로 이 에세이는 이러한 부정적 영향을 방지하는 방법을 탐구합니다. 

Peterson에 따르면, 핵심 문제 중 하나는 개인이 모든 것을 혼자 수행하는 것에 의존하는 대신 사회 및 공식 기관의 노력을 결집하는 것입니다. 예를 들어, AI 시스템 설계는 지정된 사명에서 벗어나 틈새 및 비주류 측면을 포함할 수 있으며, 목표는 인간의 지식 전체 스펙트럼이 단순히 접근 가능할 뿐만 아니라 가치 있게 여겨지도록 유지하는 것입니다.

더욱이, 이 관점에서 AI의 좁은 영향력에 대한 대안으로서 분산형 오픈 지식베이스의 역할이 가능한 해결책으로 지적됩니다. Wikidata, arXiv, IPFS와 같은 플랫폼은 변두리 지식의 손실에 대한 보호자 역할을 수행할 수 있으며, 따라서 빅데이터의 꼬리 부분(tails)은 인류의 새로운 전초기지처럼 항상 흥미롭고 발견 가능한 상태로 유지될 것입니다.

인간 지식을 지속하기 위한 다양한 지식 촉구

Peterson의 논문은 인간의 미래 노력과 발명 활동의 맥락에서 기억해야 할 이질적인 사고와 지식 생성의 가치에 대한 변증법적인 증언으로 기능합니다. 

AI의 통합으로 인해 지식 수집 과정은 필연적으로 더 복잡해질 것입니다. 따라서 디지털 세계에서 풍부하고 다양한 정보의 본질을 유지하는 것은 필수적인 과제가 됩니다.

이 연구가 촉발한 논쟁은 커뮤니티에 중요한 문제를 제기합니다. 논의의 핵심 요소는 우리가 사회에서 AI의 역할을 어떻게 인식하느냐에 있습니다. 우리 삶에 AI를 통합하는 어려움 속에서 Peterson의 지식 붕괴에 대한 우려는 AI가 인간 지식을 증가시키는 대신 감소시키는 것을 피하기 위해 우리가 무엇을 해야 하는지 성찰하게 만듭니다. 

AI 지식 큐레이션 분야의 급속한 발전에 직면하여 인간 지식 생성을 위한 아이디어의 경쟁에서 잘 갖추어지고 활기찬 아이디어 배열을 유지하는 것은 지속적으로 진화하는 우리 종의 사회 미래에 있어 가장 어려운 문제 중 하나로 남아 있습니다.

뉴스 출처:https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse