- 엔비디아가 GTC 2026에서 공개한 Groq 3 LPX는 LPU 256개를 탑재한 추론 전용 랙으로, 삼성에서 현재 양산 중이며 2026년 3분기 출하가 예정되어 있습니다
- Groq 3 LPX + Vera Rubin NVL72 조합은 1조 파라미터 GPT 모델 처리량을 Blackwell NVL72 대비 35배 끌어올리며, OpenAI는 이미 이 기반 위에 3GW 규모의 추론 용량을 전용 할당할 예정입니다
- 엔비디아는 Groq 기술 라이선스에 약 200억 달러를 지불하고 공동창업자 Jonathan Ross를 영입하는 동시에, 중국 판매 가능 버전을 5월에 출시할 계획으로 지정학적 변수에도 선제 대응에 나섰습니다
GPU 하나로 학습도, 추론도 모두 처리하는 시대가 끝나고 있습니다. GTC 2026 무대에서 젠슨 황(Jensen Huang)이 꺼내든 Groq 3 LPX는 단순한 신제품 발표가 아니라, 엔비디아가 ‘추론 전문 아키텍처’를 정면으로 수용했다는 전략 선언이었습니다. Blackwell 세대까지만 해도 GPU 단일 플랫폼으로 밀어붙이던 회사가, 이제는 삼성이 찍어내는 LPU(Language Processing Unit, 언어 추론에 특화된 비GPU 칩) 256개짜리 랙을 자사 에코시스템 핵심에 올려놓았습니다.
시장이 주목해야 할 숫자는 두 가지입니다. 하나는 35배라는 처리량 격차이고, 다른 하나는 젠슨 황이 제시한 2027년 1조 달러 매출 목표입니다. 전년도 GTC에서 5,000억 달러를 목표로 제시했던 것과 비교하면 정확히 두 배를 넘는 상향 조정입니다. 그 두 배의 자신감 뒤에 Groq 3 LPX가 있습니다.
Groq 3 LPX란 무엇인가 — 엔비디아의 추론 전략 대전환
LPU는 행렬 연산 중심의 GPU와 달리, 순차적 토큰 생성(autoregressive decoding)에 최적화된 구조입니다. 대형 언어 모델이 실제 서비스 환경에서 텍스트를 한 토큰씩 뱉어내는 추론 단계에서 GPU는 병렬 연산 능력의 상당 부분을 낭비하는 반면, LPU는 이 과정을 최소 지연으로 처리합니다. 엔비디아가 약 200억 달러라는 라이선스 비용을 치르고 Groq의 기술과 핵심 인력을 흡수한 이유가 바로 이 구조적 비효율을 메우기 위해서였습니다.
GTC 2026에서 공개된 Groq 3 LPX 랙은 LPU 256개를 단일 섀시에 탑재하고, 액체 냉각과 Spectrum-X 이더넷 패브릭으로 연결합니다. 삼성이 현재 양산을 담당하고 있으며, 출하는 올해 3분기로 예정되어 있습니다. Spectrum-X(엔비디아의 이더넷 기반 AI 네트워킹 솔루션)는 인피니밴드 없이도 대규모 AI 클러스터를 구성할 수 있게 해주는 핵심 패브릭으로, 이 조합은 데이터센터 운영사들이 인피니밴드 의존도를 낮추면서도 엔비디아 에코시스템 안에 머물도록 유도하는 전략적 설계입니다.
CNBC와 CRN의 3월 보도를 종합하면, Groq 3 LPX는 Blackwell NVL72와 직접 비교했을 때 1조 파라미터(1T Parameter) GPT급 모델 기준으로 처리량이 35배 높습니다. 이 수치가 갖는 의미는 단순한 벤치마크 우위를 넘어섭니다. 추론 비용이 35분의 1 수준으로 내려갈 수 있다는 뜻이기 때문에, 대규모 추론 서비스를 운영하는 기업들에게 이것은 인프라 전략 자체를 재검토하게 만드는 수치입니다.
Vera Rubin과 Groq 3의 결합 — 에이전틱 AI 팩토리의 핵심 구조
엔비디아가 GTC 2026에서 제시한 에이전틱 AI(Agentic AI, 인간의 개입 없이 스스로 목표를 설정하고 멀티스텝 작업을 수행하는 AI 시스템) 팩토리의 핵심 구조는 Groq 3 LPX 랙과 Vera Rubin NVL72의 결합입니다. Vera Rubin NVL72는 36개의 Vera CPU와 72개의 Rubin GPU로 구성됩니다. 학습 워크로드는 Rubin GPU가 담당하고, 실시간 추론은 LPU 랙이 병렬로 처리하는 분업 구조입니다.
Vera CPU는 기존 CPU 대비 에너지 효율이 2배, 처리 속도는 50% 향상된 것으로 CNET이 보도했습니다. 에이전틱 AI와 강화학습(RL, Reinforcement Learning)에 최적화된 설계로, 모델이 스스로 추론 루프를 돌리는 과정에서 발생하는 컨텍스트 전환 비용을 대폭 낮춥니다. 이 두 칩이 결합될 때 비로소 ‘추론 공장’이라는 개념이 실현 가능해집니다.
엔비디아는 GTC 2026에서 Vera Rubin 플랫폼용 신칩 7종의 양산이 완료되었다고 선언했습니다. 이는 제품 로드맵이 아니라 출하 준비 완료를 의미합니다. 젠슨 황이 2027년까지 Blackwell과 Vera Rubin 플랫폼을 합산해 1조 달러 매출을 목표로 제시한 것은, 이 선언이 단순한 비전이 아님을 숫자로 뒷받침한 셈입니다.
삼성 생산·중국 시장 변수 — 공급망과 지정학적 함의
Groq 3 LPX의 제조를 삼성이 담당한다는 사실은 두 가지 맥락에서 읽혀야 합니다. 첫째는 TSMC 의존도 분산이라는 공급망 전략이고, 둘째는 삼성이 Vera Rubin용 HBM4(4세대 고대역폭 메모리)도 공급 확정 상태라는 점입니다. 삼성은 이번 협력으로 단순 위탁 생산사를 넘어 엔비디아의 AI 반도체 공급망에서 핵심 이중 역할을 맡게 되었습니다.
지정학적 변수는 더 즉각적인 시장 함의를 가집니다. Vera Rubin은 미국 수출 규제 대상이어서 중국 판매가 차단된 상태이지만, 로이터의 3월 17일 보도에 따르면 엔비디아는 중국에 판매 가능한 Groq 3 별도 버전을 준비 중이며 5월 출시를 전망하고 있습니다. 이는 H20 이후 공백이 생긴 중국 AI 반도체 시장에서 수출 규제의 빈틈을 합법적으로 활용하려는 시도입니다.
OpenAI의 행보도 이 그림과 맞물립니다. Wccftech의 3월 15일 보도에 따르면 OpenAI는 Groq 기반 추론 인프라에 3GW 규모의 전용 용량을 배정할 계획입니다. 3GW는 중소 국가 수준의 전력 소비량에 해당하는 규모로, 추론 수요가 학습 수요를 넘어섰을 때 인프라의 무게 중심이 어디로 이동하는지를 명확히 보여주는 지표입니다.
GPU 모노폴리의 균열과 추론 전쟁의 경쟁 지형
엔비디아가 Groq 기술을 내재화하기 전까지, 추론 전문 칩 시장은 이 회사의 사각지대였습니다. 구글은 Broadcom과 공동 설계한 TPU(Tensor Processing Unit, 구글 자체 AI 가속 칩)로 자사 서비스 추론 비용을 수년째 낮춰왔고, d-Matrix 같은 스타트업들은 ‘인-메모리 컴퓨팅’ 구조로 추론 전용 시장을 공략하고 있었습니다. 이 공백이 방치되었다면 엔비디아의 데이터센터 점유율은 학습 시장에서만 유효한 숫자로 전락할 위험이 있었습니다.
엔비디아의 대응은 두 단계였습니다. 먼저 약 200억 달러 규모의 라이선스 계약으로 Groq의 LPU 핵심 기술을 확보하고, 공동창업자 Jonathan Ross와 핵심 인력을 직접 영입했습니다. 이로써 추론 스타트업들이 수년간 쌓아온 기술적 해자(competitive moat, 경쟁자가 쉽게 넘지 못하도록 만드는 진입 장벽)를 단번에 자사 플랫폼 위에 올린 셈입니다.
이 전략 전환이 갖는 가장 큰 의미는 엔비디아 스스로 ‘하나의 GPU로 전부’라는 명제를 공식 폐기했다는 점입니다. 학습은 Rubin GPU, 추론은 LPU, CPU 레이어는 Vera가 각각 담당하는 이종 칩 플랫폼 구조로의 전환은, 역설적으로 경쟁사들이 단일 기능으로 치고 들어올 빈틈을 더 좁히는 효과를 냅니다. 플랫폼 전체를 엔비디아 없이 구성하려면 이제 더 많은 조각을 따로 조달해야 하기 때문입니다.
Groq 3가 시사하는 AI 인프라 전환의 향방
지금 시점에서 추적해야 할 지표는 세 가지입니다. 첫째는 3분기 Groq 3 LPX 출하량입니다. 삼성 양산이 예정대로 진행된다면 연내 대형 하이퍼스케일러들의 추론 인프라 교체 수요가 가시화될 것이고, 지연될 경우 d-Matrix와 같은 추론 스타트업에게 추가 공략 기회가 생깁니다. 둘째는 중국 판매 버전의 5월 출시 여부입니다. 미국 상무부가 추가 수출 규제를 부과하면 이 계획은 즉시 무력화되며, 그 경우 Groq 3의 시장 TAM(Total Addressable Market, 총 잠재 시장 규모)이 대폭 줄어들 수 있습니다.
셋째는 OpenAI의 3GW 전용 용량 확보 일정입니다. 이 물량이 실제로 Groq 3 LPX 기반으로 집행된다면, 경쟁사들이 공략해온 추론 전문 칩 시장의 최대 수요처를 엔비디아가 사실상 선점하는 결과가 됩니다. 구글 TPU와 Broadcom 연합이 이 움직임에 어떻게 대응할지가 2026년 하반기 AI 반도체 지형을 결정하는 변수입니다.
젠슨 황의 1조 달러 선언이 실현되려면 Groq 3 LPX가 단순한 성능 우위를 넘어 에코시스템 락인(lock-in) 도구로 기능해야 합니다. Spectrum-X 이더넷, HBM4, Vera CPU가 모두 엔비디아 스택 안에서 최적화되도록 설계된 것은 우연이 아닙니다. 추론 전쟁은 이미 시작되었고, 첫 번째 라운드의 점수판은 3분기 출하량이 결정할 것입니다.
참고 자료
- CNBC (2026-03-17) — Groq 3 LPX 랙 1개에 LPU 256개 탑재, 삼성에서 현재 양산 중, Q3 출하 예정
- CRN (2026-03-16) — Groq 3 LPX + Vera Rubin NVL72 조합, 1조 파라미터 GPT 모델 처리량 Blackwell 대비 35배 향상
- CNBC (2026-03-13) — 엔비디아, Groq 기술 라이선스에 약 $200억 지불, 공동창업자 Jonathan Ross 등 핵심 인력 영입
- Gizmodo (2026-03-16) — 젠슨 황, 2027년까지 Blackwell·Vera Rubin으로 $1조 매출 목표 — 전년 GTC 예측 $5000억 대비 200% 상향
- Reuters (2026-03-17) — 로이터: 중국 판매 가능 Groq 칩 버전 준비 중, 5월 출시 전망
- Wccftech (2026-03-15) — OpenAI, Groq 기반 추론 용량 3GW 전용 할당 예정
- CNET (2026-03-16) — Vera CPU: 기존 CPU 대비 효율 2배, 속도 50% 향상, 에이전틱 AI·강화학습 최적화
Jugger | JuggerInsight 운영자 · 백엔드 엔지니어
2021년 6월부터 솔루션 서비스 소프트웨어 도메인에서 백엔드 엔지니어로 재직 중입니다. 시스템 설계·API 구현·운영 환경의 실무 시각을 AI·IT·클라우드 인프라 관련 글에 그대로 반영합니다.
블록체인·매크로 경제 분야는 직접적 직업 경험은 없으나, SEC 공시·백서·기관 리포트·정부 통계 등 1차 자료 인용을 기반으로 분석합니다. 추정과 사실을 본문에서 명확히 구분하고, 검증되지 않은 정보는 게재하지 않는 것을 원칙으로 합니다. 모든 글의 1차 출처 링크는 본문 하단 References에 전수 공개합니다.
콘텐츠 초안 단계에서 AI 모델을 보조 도구로 활용하나, 모든 글은 운영자가 검토·수정·검증한 뒤 발행합니다. 오류 발견 시 본문에 정정 표시를 남깁니다.
문의: jjunggulee@gmail.com