요약: 인공지능(AI) 인프라 확충 초기 단계에서 모델 학습(트레이닝)이 주도적 역할을 해왔지만, 향후에는 사용자 질의에 실시간으로 응답하는 AI 추론(inference)이 핵심 상업 시장으로 부상할 가능성이 크다. 시장 조사에 따르면 AI 추론 시장은 현재 약 1060억 달러(약 1060억 달러)에서 2030년경 거의 2550억 달러(약 2550억 달러)로 성장할 것으로 전망된다. 이러한 수요 전환은 GPU(그래픽 처리장치), CPU(중앙처리장치), ASIC(애플리케이션 특정 집적회로) 등 다양한 반도체 공급자에게 지속적 수요를 창출할 전망이다.
2026년 2월 25일, 나스닥닷컴의 보도에 따르면, AI 인프라의 초기 확충은 주로 대형 언어모델(LLM) 트레이닝에 집중되었으나 앞으로는 추론 작업이 상업적 수요를 주도하며 시장 규모가 빠르게 확대될 것으로 보인다고 전했다. 본 보도는 AI 추론을 중심으로 수혜가 예상되는 주요 반도체 기업 세 곳—NVIDIA(엔비디아), Advanced Micro Devices(AMD), Broadcom(브로드컴)—을 중심으로 해당 기술의 특성과 사업적 의미를 정리했다.
NVIDIA(엔비디아)
엔비디아(NASDAQ: NVDA)는 대형 언어모델 학습(트레이닝) 분야에서의 지배력으로 널리 알려져 있지만, 추론(inference) 시장에서도 선도적 지위를 확보하고 있다. 엔비디아는 NVIDIA Inference Microservices(NIM)를 통해 사전 구성되고 최적화된 추론 마이크로서비스를 제공한다. 또한 추론과 에이전틱(Agentic) AI 성능을 위해 최적화된 Blackwell GB300 Ultra GPU를 출시했고, 향후에는 Vera Rubin 플랫폼을 통해 추론 성능을 추가 개선할 것으로 기대된다.
더욱이 엔비디아는 Groq의 인력 인수 및 기술 라이선스 확보를 통해 추론 경쟁력을 강화하고자 한다. Groq(현재 X 사 소유)가 개발한 언어처리유닛(LPU: Language Processing Unit)은 추론 전용으로 설계된 새로운 유형의 칩으로 알려져 있으며, 엔비디아는 이를 자사의 CUDA 소프트웨어 플랫폼과 네트워킹 인프라에 통합해 추론 성능을 개선할 계획이다. 따라서 추론 시장에서도 엔비디아는 유력한 우승 후보로 남을 가능성이 크다.
ADVANCED MICRO DEVICES(AMD)
AMD(NASDAQ: AMD)는 엔비디아의 CUDA 우위가 트레이닝보다 추론에서 상대적으로 완만하다는 점을 기회로 활용하고 있다. 회사는 이미 추론 분야에서 특정 틈새 시장을 확보해 왔으며, 전체 시장 성장의 혜택을 볼 여지가 크다. 특히 AMD의 매출 규모는 엔비디아보다 작기 때문에 동일 수준의 시장 확대로도 더 큰 성장률 효과를 기대할 수 있다.
또한 AMD는 OpenAI로부터의 투자와 6기가와트 규모의 GPU 사용 계약으로 수혜를 볼 전망이다. 기사에 인용된 계산에 따르면 ‘1기가와트의 칩이 엔비디아 GPU 가격 기준으로 약 350억 달러 가치’라는 가정은 대형 고객의 수요가 곧바로 매출 성장으로 연결될 수 있음을 시사한다. OpenAI는 이들 칩을 주로 추론용으로 사용할 계획이라며, 이는 다른 기업들과의 추론 관련 계약 확대 가능성도 열어둔다.
추가로, 에이전틱 AI에서의 역할이 커지는 중앙처리장치(CPU)의 중요성도 AMD의 장점으로 작용한다. AI 에이전트가 더 복잡한 의사결정과 관리 역할을 수행함에 따라 CPU는 시스템 전체의 ‘두뇌’로 더욱 중요한 위치를 차지하며, 데이터센터용 CPU 수요 증가와 AI 추론 수요 증대는 AMD의 중장기 성장에 우호적이다.
BROADCOM(브로드컴)
기업들이 AI 인프라의 연간 운영비용을 낮추기 위해 AI ASIC(애플리케이션-특정 집적회로)으로 전환하는 움직임을 보이고 있다. ASIC은 특정 작업에 하드와이어드된 맞춤형 칩으로, 해당 작업에 대해 높은 처리 성능과 에너지 효율을 제공한다. 특히 추론은 사용자 질의가 발생할 때마다 지속적으로 전력을 소비하는 반복적 작업이므로, 전력 효율이 뛰어난 ASIC 수요가 매우 중요하다.
이런 맥락에서 브로드컴(NASDAQ: AVGO)은 ASIC 기술의 선두주자로서 유리한 위치에 있다. 브로드컴은 고객의 칩 설계를 실제 물리 칩으로 구현하는 빌딩블록을 제공하며, 메모리 제조업체 및 파운드리(반도체 위탁생산업체)와의 핵심적 관계를 통해 대규모 생산을 위한 부품 확보와 생산능력 확보에 중요한 역할을 수행한다.
브로드컴은 구글(Alphabet)의 텐서처리유닛(TPU) 설계에도 기여한 바 있으며, 구글이 자사 클라우드를 통해 TPU를 고객에게 제공함에 따라 브로드컴의 기술적·상업적 기회가 확대되고 있다. 보도에 따르면 Anthropic은 올해 브로드컴과 약 210억 달러 규모의 TPU 주문을 이미 체결했으며, 또한 구글의 올해 약 1800억 달러 수준의 자본지출 중 상당 부분이 TPU에 투입될 가능성이 거론된다. 이와 함께 OpenAI도 10기가와트 규모의 칩 계약을 약속하는 등 브로드컴의 ASIC 고객군이 확대되고 있다.
핵심 용어 해설
LLM(대형 언어모델): 대규모 텍스트 데이터를 학습해 언어 이해와 생성이 가능한 인공지능 모델을 의미한다. 트레이닝은 이들 모델을 학습시키는 과정이다.
추론(Inference): 학습된 모델이 실제 입력(예: 사용자 질의)에 대해 출력(응답)을 생성하는 과정으로, 상업적 적용에서는 트레이닝보다 훨씬 더 빈번하게 수행되어 지속적 운영비용(전력·서버·지연 등)이 발생한다.
GPU(그래픽 처리장치)와 CPU(중앙처리장치): GPU는 병렬계산에 강해 대규모 모델 학습과 추론에 널리 사용되며, CPU는 시스템 제어·로직 수행 등에서 중요한 역할을 한다.
ASIC: 특정 작업에 특화된 맞춤형 칩으로, 에너지 효율성과 비용면에서 이점이 있어 지속적 추론 워크로드에 적합하다.
TPU(텐서처리유닛)와 LPU(언어처리유닛): TPU는 구글이 개발한 머신러닝 가속기 계열명을 지칭하고, LPU는 Groq가 설계한 추론 전용 칩 설계 콘셉트로서 언어 모델 추론에 최적화된 구조를 뜻한다.
시장과 투자에 대한 분석적 관점
AI 추론 시장의 확장은 기술·비용·운영적 요인이 복합적으로 작용하는 영역이다. 첫째, 추론은 빈번한 호출과 지속적 전력 소비를 수반하므로 기업들은 운영비(전력·냉각·서버 가동비)를 낮출 수 있는 솔루션을 선호한다. 이로 인해 전력효율이 높은 ASIC이나 추론에 특화된 LPU와 TPU 등의 수요가 증가할 가능성이 크다. 둘째, 대형 클라우드 사업자와 AI 스타트업의 대규모 칩 수요(예: OpenAI의 수기가와트 약정, Anthropic의 대규모 TPU 주문)는 공급사(칩 설계·팹·메모리 공급망)에게 지속적인 주문을 보장할 수 있다.
기업별로 보면 엔비디아는 소프트웨어(예: CUDA) 생태계와 하드웨어의 통합을 통해 높은 전환비용을 바탕으로 시장 지배력을 유지할 가능성이 크다. 반면 AMD는 추론 분야에서의 CUDA 의존도를 상대적으로 덜 받는 틈새 전략과 데이터센터 CPU 수요 확대에 따른 성장 잠재력을 가지고 있다. 브로드컴은 ASIC 생태계 구축과 파트너십을 통해 고객 맞춤형 솔루션을 대규모로 공급할 수 있는 장점이 있다.
정책·경쟁·공급망 변수도 주의해야 한다. 예를 들어 팹(fab) 생산능력 제약, 메모리 및 고속 인터커넥트 수급, 국가별 수출 규제와 같은 요소는 칩 공급을 제한하거나 비용을 상승시킬 수 있다. 투자자는 이러한 거시·공급망 리스크와 각 기업의 기술적 우위, 고객 기반(대형 클라우드·AI 스타트업) 및 소프트웨어 생태계의 견고성을 함께 고려해야 한다.
투자 판단과 유의점
보도는 또한 투자 관련 정보로서 모틀리풀의 Stock Advisor 팀이 선정한 ‘지금 사기 좋은 10개 종목’ 리스트에는 엔비디아가 포함되지 않았음을 전했다. 기사에 인용된 바와 같이 과거 Stock Advisor의 추천 종목들은 높은 장기 성과를 기록한 사례가 있으며(예: 2004년 12월 17일 넷플릭스 추천 당시 1,000달러 투자금이 현재 시점에서 큰 폭의 상승을 기록했다는 표현 등), Stock Advisor의 전체 평균 수익률은 2026년 2월 25일 기준 약 903%로 보도되었다. 이는 단지 과거 성과로서 참고할 요소일 뿐이며, 과거 성과가 미래 성과를 보장하지 않는다는 점을 유의해야 한다.
기자 해석(전문적 통찰)
기술적 관점에서 볼 때, 추론 시장의 급성장은 데이터센터의 설계와 운영 패러다임을 바꿀 가능성이 있다. 트레이닝 중심의 투자에서 실시간·저지연·저전력 추론을 위한 하드웨어·소프트웨어 통합 투자가 병행될 때, 기존의 대형 GPU 수요는 계속 유지되면서도 ASIC과 같은 맞춤형 하드웨어에 대한 수요가 빠르게 증가할 것이다. 이는 장기적으로 반도체 산업 구조에서 다양한 아키텍처의 공존을 촉진하며, 반도체 설계·제조·메모리 공급망 전반에 걸친 재편을 유도할 수 있다.
투자자는 단기적 주가 변동성뿐 아니라 장기적 기술 우위(소프트웨어 생태계, 설계·제조 파트너십, 대형 고객 확보)와 공급망 리스크를 함께 평가해야 한다. 엔비디아는 생태계 우위, AMD는 CPU·GPU의 복수 축 전략, 브로드컴은 ASIC 공급망 역량을 무기로 각자 다른 방식으로 추론 시장의 성장 혜택을 받을 것으로 전망된다.
공시
원문 보도에 따르면 Geoffrey Seiler는 Alphabet(구글 모회사)과 Broadcom에 포지션을 보유하고 있다. 모틀리풀(The Motley Fool)은 Advanced Micro Devices, Alphabet 및 Nvidia에 대한 포지션을 보유·권장하고 있으며, Broadcom을 권장한다고 밝혔다. 또한 모틀리풀은 공시 정책을 따르고 있다. 해당 기사에 표현된 견해와 의견은 기사 작성자의 것일 뿐이며 반드시 나스닥닷컴의 입장을 대변하는 것은 아니다.
