대규모 언어 모델(LLM) 코드를 오픈소스로 공개하는 것이 혁신을 촉진하는 좋은 방법일까요?

TL;DR 요약

• AI의 아버지라 불리는 제프리 힌튼은 오픈소스 AI 모델 코드에 대한 우려를 표명하며, 증가하는 위험과 오용 가능성을 경고합니다.
• 힌튼은 AI의 책임 있는 사용을 보장하기 위해 주요 기업들이 주도하는 통제된 개발을 제안합니다.
• 오픈소스 LLM 지지자들은 제한이 창의성과 혁신을 저해한다고 주장합니다.

인공지능(AI) 분야에서 저명한 인물로 종종 'AI의 아버지'라 불리는 제프리 힌튼은, 특히 대규모 언어 모델(LLM)의 코드를 오픈소스로 공개하는 것과 관련된 잠재적 위험에 대해 우려를 표명했습니다. 신경망에 대한 획기적인 공헌으로 알려진 힌튼은 이러한 코드를 온라인에서 자유롭게 사용할 수 있게 하는 것이 해로운 영향을 미치고 AI와 관련된 위험을 증가시킬 수 있다고 믿습니다.

힌튼의 입장은 AI 기술, 특히 LLM이 잘못된 손에 넘어갈 경우 오용과 착취의 잠재력을 가지고 있다는 신념에서 비롯됩니다. OpenAI의 GPT-3와 같은 대규모 언어 모델은 인간과 유사한 텍스트를 생성하도록 설계되었으며 방대한 양의 데이터에서 학습할 수 있는 엄청난 능력을 갖추고 있습니다. 이들은 언어 번역, 콘텐츠 생성, 심지어 코드 자동 완성 등 다양한 응용 분야에서 인상적인 능력을 입증했습니다.

LLM의 어두운 면

제프리 힌튼은 대규모 언어 모델(LLM)과 관련된 오픈소스 운동과 그 잠재적 도전에 대한 우려를 최근 표명했습니다. 그는 최근 AI 개발에 대한 의견을 자유롭게 표명하기 위해 구글의 직위를 사임했으며, OpenAI와 같은 회사의 연구소에 LLM을 제한하는 것이 유익할 수 있다고 믿습니다. 그는 여러 국가의 주요 기업들이 주도하는 통제된 개발 접근 방식을 제안하며, 이는 기술의 동시 개발과 책임 있는 사용을 보장하기 위한 방법 수립을 가능하게 할 것이라고 말합니다. 

힌튼은 오픈소스 AI가 악의적인 의도를 가진 개인이 기술을 해롭고 예측 불가능한 방식으로 사용하는 것을 가능하게 할 위험을 증가시킨다고 강조했습니다.

힌튼은 초지능 AI가 인간 지능을 능가하는 시점이 멀지 않았다고도 믿으며, GPT-4와 같은 모델에서 지능의 징후를 보고 있습니다. 그는 이전에 50~100년 후라고 추정했던 것을 수정하여, 이제 5~20년 이내에 발생할 가능성이 더 높다고 보고 있습니다.

오픈소스 LLM이 비즈니스 성공을 어떻게 견인하는가

오픈소스 대규모 언어 모델(LLM)은 온라인에서 점점 더 풍부해지며 강력한 AI 기능에 대한 접근을 제공하고 있습니다. 이러한 추세와 함께 소프트웨어 벤더들은 독점 데이터로 학습할 수 있는 맞춤형 및 설치형 LLM에 대한 기업의 증가하는 수요를 활용하고 있습니다. 이 공간에서 주목할 만한 출시 중 하나는 상업적 용도로 명시적으로 설계된 첫 번째 오픈소스, 지시 따르기(instruction-following) LLM인 Databricks의 Dolly 2.0으로 꼽힙니다. ChatGPT와 유사한 기능을 갖춘 Dolly 2.0은 조직이 자체 인프라에서 모델을 실행하여 더 많은 제어와 유연성을 가능하게 합니다.

AI 위험 완화, 딥마인드의 조기 경보 이니셔티브

힌튼의 전직 employer인 구글 산하 AI 연구소인 딥마인드는 AI와 관련된 잠재적 위험을 식별하기 위해 설계된 조기 경보 시스템 개발을 발표했습니다. 이 시스템은 힌튼이 제기한 우려를 해소하고 AI 기술에서 발생할 수 있는 잠재적 위험을 감지하고 완화하는 능력을 향상시키는 것을 목표로 합니다. 이 이니셔티브는 산업 내에서 AI의 위험을 사전에 관리하고 책임 있는 개발 및 배포를 보장하기 위한 지속적인 노력을 보여줍니다.

오픈소스 LLM 지지자들의 입장

오픈소스 LLM 지지자들은 이러한 모델이 ChatGPT와 같은 AI 시스템에 대한 접근을 민주화하여 실험에 대한 진입 장벽을 줄임으로써 혁신을 촉진할 잠재력을 가지고 있다고 주장합니다. 그들은 이러한 기술을 공개적으로 제공함으로써 더 넓은 커뮤니티의 개인들이 이 분야의 발전에 기여할 수 있다고 믿습니다. AI를 탐색하고 혁신하려는 열정적인 개인들이 많으며, 오픈소스 모델 지지자들은 이러한 개인들을 권한 부여하고 그들의 집단적 잠재력을 활용하는 것이 중요하다고 봅니다.