마이크로소프트, 새로운 생성형 AI 모델 Phi-4 debut – 패키지 소개

마이크로소프트는 생성형 인공지능(AI) 모델인 Phi 시리즈의 최신 버전인 Phi-4를 공개했습니다. 간소화된 아키텍처는 수학 문제 해결 분야의 진보를 포함합니다. 

보고서에 따르면, 140억 개의 파라미터를 자랑하는 이 새로운 모델은 GPT-4o Mini, Gemini 2.0 Flash, Claude 3.5 Haiku와 같은 다른 소형 AI 모델들과 경쟁하는 것을 목표로 합니다.

마이크로소프트의 블로그에 따르면, Phi-4는 마이크로소프트의 Azure AI Foundry 플랫폼을 통해 제한적으로 접근할 수 있으며, 마이크로소프트 연구 라이선스 계약에 따라 연구 목적으로만 제한됩니다.

Phi-4: 수학 추론 성능 향상

마이크로소프트는 Phi-4를 수학 문제 해결 분야의 선두주자로 위치시켰으며, 이전 모델 및 유사한 모델들보다 상당한 성능 향상을 인용했습니다. Phi-4가 여러 표준화된 벤치마크에서 최고 점수를 달성했다는 보고에 따라 회사는 이 AI 모델의 능력에 자신감을 가지고 있습니다. 

GPQA 테스트에서 56.1점을 기록하여 GPT-4o의 40.9점과 Llama-3의 49.1점을 능가했습니다. MATH 벤치마크에서는 80.4점을 달성하여 복잡한 수학 문제를 해결하는 고급 능력을 반영했습니다. 또한 HumanEval에서 82.6점을 기록하며 코딩 벤치마크에서도 뛰어난 성과를 보였습니다.

또한 Phi-4는 미국수학협회(AMC-10/12)의 미국수학경시대회 문제 등 실제 시나리오에서도 우수한 성과를 보였습니다. 이러한 결과는 수학적 정확성과 추론이 중요한 과학 연구, 공학, 금융 모델링 분야에서 잠재적 응용 가능성을 시사합니다.

수천억 개 또는 수조 개의 파라미터로 작동하는 오픈AI의 GPT-4o나 구글의 Gemini Ultra와 같은 대형 모델과 달리, Phi-4는 더 작고 간소화된 아키텍처가 전문화된 작업에서 우수한 성능을 달성할 수 있음을 보여줍니다. 

마이크로소프트는 Phi-4의 진전을 고품질 합성 데이터와 인간 생성 콘텐츠 데이터셋의 통합, 그리고 사후 학습 중 이루어진 비공개 개선 사항들에 기인합니다. 이러한 노력은 연구 팀들이 합성 데이터 사용 및 사후 학습 최적화 혁신에 점점 더 집중하고 있는 AI 업계의 더 넓은 트렌드를 반영합니다.

Scale AI의 CEO 알렉산드르 왕은 최근 이러한 변화를 강조하며, 업계가 "사전 학습 데이터의 벽"에 도달했으며, 이제 기업들은 더 효율적인 AI 모델 개발을 위한 경쟁에 돌입할 것이라고 언급했습니다.

연산 능력도 중요하지만 데이터도 중요하며, 우리는 사전 학습 데이터의 벽에 도달했습니다.

사후 학습 데이터 붐을 준비하십시오. 기업들은 최전방 데이터(다중 모달, 에이전트, 복잡한 추론 등)를 확보하기 위해 경쟁할 것입니다.

데이터를 따라가면 승자를 찾을 수 있습니다.

7/8

— 알렉산드르 왕 (@alexandr_wang) 12 월 12, 2024

책임 있는 AI 및 안전 기능

마이크로소프트는 Phi-4 및 이전 모델들에 강력한 안전 조치를 통합하여 AI 솔루션의 책임 있는 개발을 계속 강조합니다. Azure AI Foundry를 통해 사용자는 AI 개발 전 주기에 걸쳐 위험을 평가하고 완화하기 위해 설계된 도구들에 접근할 수 있습니다. 

이러한 도구에는 부적절하거나 해로운 입력으로부터 보호하는 프롬프트 쉴드, 출력에서 민감한 콘텐츠를 식별하는 보호된 자료 감지, 그리고 출력이 사실적으로 정확하고 관련성이 있도록 보장하는 근거 감지가 포함됩니다.

또한, Azure AI의 Content Safety 툴킷에는 기능이 통합되어 있어 개발자가 품질, 안전성 및 데이터 무결성을 위해 필터를 적용하고 애플리케이션을 모니터링할 수 있습니다. 실시간 알림은 적대적 프롬프트 및 콘텐츠 편차와 같은 문제를 해결하기 위한 적시 개입을 제공합니다.

Azure AI Foundry는 내장 및 사용자 지정 메트릭을 모두 사용하여 반복적인 모델 평가를 지원하며, 개발자가 최적의 성능을 위해 their AI 애플리케이션을 미세 조정할 수 있는 유연성을 제공합니다.