오픈AI의 브로드컴 제작 추론 칩, 엔비디아의 한계 보완

오픈AI는 이제 브로드컴이 제작한 첫 번째 맞춤형 AI 칩 "할라페뇨"를 사용할 것입니다. 이 칩은 ChatGPT 및 기타 앱을 사용하는 사람들이 AI 모델을 실행하는 데 필요한 무거운 컴퓨팅 작업에 사용됩니다.

회사는 이를 모델과 제품 뒤의 풀스택을 구축하려는 계획에서 큰 한 걸음이라고 불렀습니다.

"스택의 더 많은 부분을 자체적으로 설계함으로써 더 많은 지능을 더 높은 효율로 제공할 수 있으며, 고급 AI를 더 넓은 접근성으로 밀어붙일 수 있습니다."라고 오픈AI의 회장인 그렉 브로크먼은 성명에서 말했습니다.

이 소식에 브로드컴 주가(NASDAQ: AVGO)는 약 2% 상승했습니다. 올해 초부터 주가는 10% 성장했습니다.

오픈AI는 2022년 생성형 AI 열풍을 주도했으며, 그 이후로 AI 모델 구축과 대규모 작업 실행에 주로 사용되는 엔비디아의 비싼 그래픽 처리 장치(GPU)의 최대 구매자 중 하나가 되었습니다. 오픈AI 제품의 수요가 너무 높아, 회사는 고급 추론 칩을 위한 더 많은 소스가 필요합니다.

이러한 이유로 오픈AI는 Trainium AI 칩을 위해 아마존 웹 서비스(AWS)와도 손을 잡았습니다. 또한 Cryptopolitan이 보고한 바와 같이, 최근 IPO를 진행한 AMD와 Cerebras 등 엔비디아의 경쟁사들과의 대안을 모색해 왔습니다.

18개월간 협력한 후, 오픈AI와 브로드컴은 10월부터 맞춤형 칩에 대한 협상을 이어왔습니다. 그들은 10기가와트의 전력을 사용할 수 있을 만큼의 칩을 만드는 것을 목표로 하여, 오픈AI가 설계한 칩의 랙을 구축하고 출시할 계획이었습니다.

새로운 칩의 기능

브로드컴 칩은 ASIC입니다. 업계 전문가들은 이 유형이 엔비디아의 GPU보다 유연성이 낮지만 비용이 적게 들고 특정 AI 작업에 맞게 제작될 수 있다고 말합니다. 오픈AI는 이 칩을 9개월 만에 설계했으며, 이를 실행할 컴퓨터 시스템의 상당 부분도 직접 구축했습니다.

두 회사는 이 칩을 "지능 프로세서(Intelligence Processor)"라고 부르며, AI를 더 빠르고 쉽게 접근 가능하게 만들기 위한 더 넓은 플랫폼의 첫 번째 조각이라고 설명합니다.

브로드컴은 대형 클라우드 기업과 선도적인 연구소들을 위한 맞춤형 칩 지원 덕분에 AI 붐 시기에 좋은 평판을 쌓아왔습니다.

칩의 물리적 샘플은 수요일에 오픈AI에 전달됩니다. 두 회사는 2026년 말까지 할라페뇨 칩 사용을 시작하고そこから 확장하기를 희망한다고 밝혔습니다.

이 움직임은 엔비디아 하드웨어를 둘러싼 수개월간의 긴장감 이후 이루어졌습니다

8명의 출처는 로이터 통신에 오픈AI가 엔비디아의 최신 칩 일부에 불만을 가지고 있으며 지난해부터 다른 옵션을 모색해 왔다고 전했습니다. 7명의 출처는 오픈AI가 소프트웨어 코드 작성과 같은 특정 작업에서 엔비디아 하드웨어의 응답 속도에 우려를 가지고 있다고 말했습니다. 오픈AI가 요구하는 칩은 결국 오픈AI의 추론 수요의 약 10%를 처리할 예정이었습니다.

그러나 알트만은 X 게시글에서 "우리는 엔비디아와의 협력을 사랑하며, 그들은 세계에서 최고의 AI 칩을 만듭니다. 우리는 매우 오랜 시간 동안 거대한 고객이 되기를 바랍니다."라고 말했습니다.

엔비디아는 여전히 대형 모델 학습용 칩에서 선두를 달리고 있지만, 추론은 새로운 격전지가 되었습니다. 9월, 엔비디아는 오픈AI에 최대 1,000억 달러를 투자할 계획이라고 밝혔으며, 이 거래는 칩 제조사가 스타트업의 지분을 보유하게 됩니다.

2월, 엔비디아 CEO 젠슨 황은 마찰에 대한 보고를 "허튼소리"라고 일축하고 엔비디아가 대규모 투자를 계획하고 있다고 반복했습니다. 그럼에도 불구하고 1,000억 달러 거래는 취소되었고 훨씬 더 작은 거래로 대체되었습니다.

나중에 젠슨 황은 1,000억 달러 전액이 "아마도 현실화되지 않을 것"이라고 확인했으며, 나중에 원래 금액을 "절대적인 약속이 아니었다"라고 묘사하며, 단지 해당 금액까지 투자할 수 있는 초대일 뿐이라고 설명했습니다.

엔비디아가 실제로 최종화한 것은 오픈AI의 300억 달러 지분 인수였으며, 이는 7,300억 달러의 사전 가치로 확정되었습니다. 황은 이것이 회사의 계획된 IPO 전에 엔비디아가 오픈AI에 투자하는 마지막 투자가 될 것이라고 말했습니다.

오픈AI의 새로운 사이버 모델, 앤트로픽을 제치다

오픈AI는 다른 분야에서도 바쁘게 움직이고 있습니다. 6월 22일, 오픈AI는 Daybreak 사이버 방어 프로그램의 일환으로 GPT-5.5-Cyber를 완전히 출시했습니다.

188개 오픈소스 프로젝트에서 알려진 1,507개의 소프트웨어 결함을 사용하여 UC 버클리에서 구축된 테스트인 CyberGym에서 이 모델은 85.6%의 점수를 받았습니다. 앤트로픽의 Mythos 5는 83.8%, Claude Opus 4.7은 73.1%를 기록했습니다.

앤트로픽의 Mythos 5와 Fable 5는 트럼프 행정부가 국가 안보를 이유로 긴급 수출 통제 명령을 내린 후 6월 12일 오프라인으로 내려갔습니다. 6월 23일 기준, 두 모델 모두 복원 날짜 없이 여전히 오프라인 상태입니다.