마이크로소프트 CTO, AI 확장 관련 법률 옹호

최근 세쿼이아 캐피털의 트레이닝 데이터 팟캐스트 인터뷰에서 마이크로소프트 CTO 케빈 스콧은 대규모 언어 모델(LLM) 확장 법칙의 지속적인 가치에 대한 자신의 믿음을 재차 강조했습니다. 

관련 기사: AI 앱, 위험 요소 및 테스트 결과를 강조하는 '안전 라벨' 기능 탑재 예정

마이크로소프트와 오픈AI 간의 130억 달러 규모 계약 성사에 중요한 역할을 했던 스콧은 앞으로도 지속적인 발전 가능성에 대해 낙관적인 전망을 유지하고 있다. 그는 언급 했다. 

OpenAI 연구는 확장성의 이점을 뒷받침합니다

2020년 OpenAI 연구진이 제안한 LLM(Language Language Model)의 확장 법칙은 언어 모델의 효율성이 모델 크기에 비례하여 증가한다는 것입니다. 스콧은 한계효용 체감의 법칙을 부정하며, 기하급수적 성장은 여전히 ​​가능하지만 이를 실현하려면 차세대 슈퍼컴퓨터가 필요할 것이라고 말했습니다. 

일부 학자들은 확장성 법칙의 지속 가능성에 의문을 제기하지만, OpenAI는 여전히 이를 AI 계획의 핵심 요소로 삼고 있습니다. 스콧의 발언은 마이크로소프트의 이러한 원칙에 대한 접근 방식과 일맥상통하며, 이는 마이크로소프트가 더 큰 AI 모델 개발을 멈출 의도가 없음을 시사합니다.

AI 커뮤니티, 미래 모델 개선 방안에 대해 논의

스콧의 입장은 GPT-4와 같은 모델에서 성장이 멈췄다고 생각하는 일부 AI 비평가들의 의견과 정반대입니다. 일부 비평가들은 구글의 제미니 1.5 프로와 앤트로픽의 클로드 오푸스를 포함한 최신 모델들이 이전 모델에 비해 뚜렷한 개선을 보여주지 못했다고 지적했습니다. AI 비평가 게리 마커스는 지난 4월 GPT-4 출시 이후 의미 있는 발전이 부족하다는 점을 강조 하며 이러한 관점을 부각했습니다

하지만 스콧은 여전히 ​​새로운 발견의 가능성에 대해 낙관적입니다. 그는 인공지능 분야에 데이터가 부족하다는 사실을 인정하면서도, 이는 미래에는 더 이상 문제가 되지 않을 것이라고 강조했습니다.

"다음 샘플이 나올 예정인데, 언제 나올지는 말씀드릴 수 없고, 얼마나 좋을지도 정확히 예측할 수는 없지만, 현재 취약한 부분들은 거의 확실히 개선될 것입니다.".”

케빈 스콧

마이크로소프트가 오픈AI에 대규모 투자를 한 것은 인공지능(AI)의 미래 발전에 대한 확신을 보여주는 증거입니다. 마이크로소프트 코파일럿과 같은 AI 기능은dent 마이크로소프트가 AI 활용을 개선하는 데 적극적임을tronAI 비평가인 지적했습니다 .