샌프란시스코의 한 하키 경기장을 가득 메운 관객 앞에 젠슨 황(Jensen Huang) 엔비디아(Nvidia) 최고경영자가 무대에 오르면, 그는 경쟁사를 앞서기 위한 제품과 파트너십을 발표할 것으로 예상된다. 이번 연례 개발자 컨퍼런스인 GTC(Nvidia GPU Technology Conference)는 엔비디아가 반도체, 데이터센터, 병렬처리 소프트웨어인 CUDA, 디지털 비서 역할을 하는 AI 에이전트, 로봇 등 물리적 AI(physical AI) 분야의 진보를 공개하는 핵심 무대가 되었다.
2026년 3월 13일, 로이터 통신의 보도에 따르면, 이번 4일간의 행사는 엔비디아가 이익을 AI 생태계에 재투자하는 전략이 성과를 내고 있는지를 투자자들에게 확인시켜줘야 하는 중요 시점이다. 엔비디아는 실리콘밸리 중심부를 거의 일주일간 장악하면서 신제품과 협업 사례를 통해 시장 주도권을 공고히 하려는 의도를 분명히 하고 있다.
애널리스트들은 엔비디아가 이번 GTC에서 차세대 칩 로드맵과 함께 추론(inference), 에이전트형 AI(agentic AI), 네트워킹, AI 공장(infrastructure for AI factories) 관련 인프라를 강조할 것으로 보고 있다. eMarketer의 제이콥 본(Jacob Bourne)은 엔비디아의 현재 및 향후 세대 칩 이름인 Rubin에서 Feynman까지 포함한 풀 스택 로드맵을 제시할 것이라고 전망했다.
엔비디아의 GPU는 전 세계 정부와 기업의 데이터센터 투자 수백억 달러의 중심에 있다. 그러나 엔비디아는 타 반도체 업체뿐만 아니라 주요 고객 일부가 자체 칩을 개발하면서 경쟁 압력을 받고 있다. 특히 대형 AI 연구소들이 학습(training)에 집중할 때는 여러 엔비디아 칩을 묶어 대규모 데이터 처리에 사용해왔지만, 앞으로는 에이전트가 애플리케이션 간을 오가며 인간을 대신해 작업을 수행하는 추론 중심 환경으로 전환되고 있다.
“엔비디아는 확실히 1년 전보다 더 많은 경쟁을 마주할 것”이라고 Summit Insights Group의 킨응아이 찬(KinNgai Chan)은 말했다. 그는 “엔비디아는 현재 학습과 추론 시장에서 거의 90% 이상의 점유율을 유지하고 있다”고 덧붙였다.
찬 이사는 또한 ASIC(애플리케이션 특화 집적회로) 기반의 사내(인하우스) 프로그램이 확산되면 특히 추론 시장에서 2027년경부터 엔비디아의 시장 점유율이 서서히 감소하기 시작할 것이라고 예상했다. ASIC는 특정 작업에 최적화된 칩으로, 범용 GPU보다 전력 효율과 비용 측면에서 유리할 수 있다.
경쟁 우위를 지키기 위한 엔비디아의 전략적 방어도 눈에 띈다. 엔비디아는 지난해 12월 칩 스타트업인 Groq를 $17억 달러가 아닌 $17억이 아닌 것으로 표기하면 혼동이 있으므로 정확 표기를 유지한다. 실제 원문은 $17 billion으로, 이는 $17 billion(약 17조 원대) 규모의 인수다. 엔비디아는 이 인수를 통해 빠르고 저렴한 추론 연산을 전문으로 하는 Groq의 기술을 CUDA 플랫폼에 통합하는 모습을 GTC에서 시연할 것이라고 젠슨 황은 최근 실적 발표에서 언급했다.
Third Bridge의 윌리엄 맥고니글(William McGonigle)은 자사에서 엔비디아가 Groq의 칩과 자사 네트워킹 기술을 결합한 신형 서버 라인을 출시할 것으로 예상한다고 말했다. 이러한 결합은 속도와 비용 효율성 측면에서 경쟁 우위를 제공할 수 있다.
또 다른 경쟁 위협은 중앙처리장치(CPU)다. 인텔(Intel)과 AMD(Advanced Micro Devices)가 오랫동안 주력해온 CPU는 최근 몇 년간 GPU에 밀렸으나, 맥고니글은 CPU가 다시 주목받고 있다며 엔비디아가 자체 CPU만을 사용하는 서버를 공개할 가능성을 제기했다. 젠슨 황 역시 최근 실적 발표에서 자사 CPU의 역할을 강조했다. 맥고니글은 “에이전트형 AI의 등장으로 병목 현상은 이제 에이전트 오케스트레이션 계층에서 발생하며, 이 계층은 주로 CPU로 수행된다”고 설명했다.
엔비디아는 또한 칩 간 정보를 빛의 빔으로 전송하는 레이저를 제조하는 기업인 Lumentum과 Coherent에 각각 $2 billion씩 투자했다. 이들 회사의 레이저 기술은 co‑packaged optics(칩과 광학 소자를 공동으로 패키징하는 기술)에 사용되어 대형 데이터센터 내 엔비디아 칩 간 연결을 가속화할 잠재력이 있다. 그러나 현재 이 광학 소자들은 엔비디아가 연간 판매하는 칩 수에 비해 충분한 규모로 생산되지 못하고 있어 확산에는 추가적인 비용 절감과 생산 확대가 필요하다.
eMarketer의 본 애널리스트는 “엔비디아는 대규모 AI 클러스터를 보다 효율적으로 연결하는 데 co‑packaged optics를 핵심 기술로 제시할 것”이라면서도 “이를 대규모로 배포할 만큼 경제성을 확보하는 것이 관건”이라고 지적했다.
용어 설명
학습(Training)은 인공지능 모델을 만들기 위해 대규모 데이터를 처리해 모델의 가중치를 조정하는 과정이다. 이 과정은 일반적으로 다수의 GPU를 연결해 수일에서 수주까지 걸리는 연산을 수행한다. 추론(Inference)은 이미 학습된 모델을 통해 실제 서비스를 제공할 때 입력을 받아 결과를 생성하는 과정으로, 지연 시간과 비용이 더 중요한 작업이다. 오케스트레이션(Orchestration)은 다수의 AI 에이전트와 시스템을 관리·조정하는 계층으로, 에이전트가 인간을 대신해 다양한 애플리케이션 간을 오가며 작업할 때 핵심 역할을 한다. ASIC은 특정 작업에 최적화된 맞춤형 칩이며, co‑packaged optics는 칩과 광학 소자를 하나의 패키지에 결합해 칩 간 통신을 고속화하는 기술이다.
시장·가격 영향 전망
여러 분석가의 전망을 종합하면, AI 칩 시장 자체는 지속적인 성장세를 보일 것으로 예상되나, 엔비디아의 점유율은 경쟁 심화에 따라 점진적으로 축소될 수 있다. 특히 대형 클라우드 사업자와 AI 연구소들이 자체 ASIC 개발을 가속화하면 GPU 기반 매출 성장률이 둔화할 가능성이 있다. 다만 엔비디아의 Groq 인수, 네트워킹 기술 강화, 광학 소자 투자 등은 단기적으로는 엔비디아 제품의 총소유비용(TCO)을 낮추고 데이터센터 고객의 수요를 유지시키는 요인으로 작용할 수 있다.
금융시장 관점에서는, 엔비디아가 GTC에서 설득력 있는 로드맵과 시연을 제시해 기술적 우위를 다시 확인하면 주가와 밸류에이션에 긍정적 요인이 될 수 있다. 반대로 경쟁사 또는 대형 고객의 인하우스 칩 채택이 가시화되면 향후 수익 성장률에 대한 우려로 주가 변동성이 확대될 수 있다. 데이터센터 관련 장비·광소자 업체들의 수요 확대가 현실화되면 해당 공급망의 매출·이익 개선으로 이어질 가능성도 있다.
결론
엔비디아는 이번 GTC에서 제품·파트너십·인프라 로드맵을 통해 빠르게 변화하는 AI 시장에서의 경쟁 우위를 유지하려 한다. 그러나 추론 중심의 에이전트형 AI 확산, 인하우스 ASIC 개발, CPU의 재부상 등은 엔비디아의 시장지위를 점진적으로 압박할 요인이다. Groq 인수와 레이저 업체에 대한 투자 등으로 기술적·공급망적 방어를 마련하고 있지만, 엔비디아와 경쟁사·고객 간의 기술 경쟁은 앞으로도 수년간 이어질 전망이다.
