구글(Google)이 2026년 인공지능(AI) 인프라를 대대적으로 확장할 준비를 하고 있다. 7세대 텐서 프로세싱 유닛(TPU)인 ‘아이언우드(Ironwood)’가 양산 배치 단계로 들어가면서 GPU(그래픽처리장치) 기반 시스템과의 경쟁을 본격화하지만, GPU를 완전히 대체하지는 않을 것으로 전망된다.
2026년 1월 1일, 인베스팅닷컴의 보도에 따르면, 구글의 TPU v7 프로그램은 서버 설계와 확장 방식을 바꾸고 있다. 설계 단위를 개별 서버에서 전체 랙(rack) 단위로 끌어올리며 하드웨어, 네트워킹, 소프트웨어를 시스템 레벨에서 밀착 통합하는 것이 핵심이다.
Fubon Research(후본 리서치)의 애널리스트 아서 리아오(Arthur Liao)가 이끄는 팀은 메모, 네트워크, 냉각 설계까지 포함한 시스템 통합이 TPU의 본질적 차별점이라고 평가했다.
TPU와 GPU의 기술적 차이
후본 리서치는 TPU가 본질적으로 애플리케이션 특정 집적회로(ASIC)이며 초기 설계 단계부터 AI 워크로드 전용으로 만들어졌다고 설명했다. 이에 비해 GPU는 범용 가속기다. 후본은 “TPU의 정적 행렬(매트릭스) 배열은 연산 전에 미리 설정된 데이터 스트림, 구성, 사전 정의된 커널을 필요로 하며, 이는 런타임에 하드웨어 커널을 시작할 수 있는 GPU와 다르다”라고 지적했다. 또한 “엔비디아(nVidia)의 GPU는 CUDA 생태계의 성숙도와 기존 코드의 대규모 포팅 어려움 때문에 여전히 경쟁 우위를 잃지 않았다”라고 덧붙였다.
아이언우드(Ironwood)의 구조와 냉각·연결 전략
아이언우드는 이전 세대 TPU를 기반으로 듀얼 칩렛(dual‑chiplet) 설계을 도입해 수율과 비용 효율을 개선했다. 또한 2018년 이후 구글이 ASIC에 적용해 온 액체 냉각(liquid cooling)을 지속적으로 활용하고 있다. 이번 세대에서는 광회로 스위칭(OCS: Optical Circuit Switching)에도 크게 의존한다. 구글은 랙 간 연결을 대규모로 구성하면서 전력 소비와 지연(latency)을 줄이기 위해 OCS를 활용하고 있다.
후본은 OCS를 “고수준 데이터센터 네트워크의 핵심 인에이블러(enabler)”로 규정하며, 특히 안정적이고 높은 대역폭이 중요한 장시간 AI 트레이닝 작업에 적합하다고 설명했다.
규모와 수치
구글의 야망은 구체적인 수치로 나타난다. TPU v7 한 랙에는 64개 칩이 장착되며, 랙들은 OCS를 통해 최대 144개 랙까지 연결되어 동기식(synchronous)으로 최대 9,216개 TPU를 운영할 수 있다. 후본의 공급망 분석을 기준으로 하면 2026년 TPU v7 랙 총계는 약 36,000대에 이를 것으로 추정된다. 이 규모를 지원하려면 네트워크 패브릭을 위해 1만 대이상의 광회로 스위치가 필요하다고 후본은 분석했다.
전력과 냉각 수요도 급증한다. 후본은 칩당 전력을 약 850~1,000와트로 추정하며, 메모리·인터커넥트·손실 등을 포함했을 때 랙당 총 전력은 약 80~100킬로와트(kW)에 이를 것으로 보았다. 이를 관리하기 위해 구글은 별도의 전력 사이드카(sidecar) 랙을 400볼트(DC) 분배로 배치하고, 동기화된 워크로드 동안 발생하는 대전류 스파이크를 처리하기 위한 고급 배터리 백업 시스템을 도입할 것으로 예상된다.
생산·공급 제약과 향후 전망
제조 측면에서 후본은 2026년 TPU 총 생산량을 약 310만~320만 개로 추정했다. 이는 주로 고급 패키징(advanced packaging) 능력의 제약 때문이라는 설명이다. 다만 패키징 및 조립용량이 계획대로 확장된다면 2027년에는 물량이 급증할 가능성이 있다.
후본과 업계 애널리스트들은 TPU를 효과적으로 활용하려면 최상급 엔지니어링 인력과 구글 소프트웨어 스택에 대한 깊은 이해가 필요하다고 지적한다. 특히 JAX와 XLA와 같은 구글 고유의 소프트웨어 도구에 대한 숙련 없이는 성능을 끌어내기 어렵다. 따라서 대부분의 기업과 소규모 개발자들은 당분간 GPU에 의존할 가능성이 크다고 후본은 결론지었다.
전문가적 분석: 시장·전력·공급망에 미칠 영향
이번 확장은 데이터센터와 반도체 공급망, 전력 인프라에 복합적인 파급효과를 초래할 것으로 보인다. 첫째, 엔비디아(NVIDIA)를 중심으로 한 GPU 생태계는 단기적으로 기술적·상업적 우위를 유지하겠지만, 구글의 대규모 TPU 배치는 클라우드 경쟁 구도를 재편할 가능성이 크다. 대규모 AI 학습 수요를 보유한 기업(특히 초대형 AI 연구·서비스 제공자)은 TPU 기반 클러스터를 채택함으로써 모델 훈련 비용과 시간에서 경쟁우위를 확보할 수 있다.
둘째, 데이터센터의 전력수요는 지역 전력망과 전력 요금 구조에 영향을 줄 수 있다. 랙당 80~100kW 수준의 전력 소모는 대형 클러스터 운영 시 전체 데이터센터의 전력 밀도를 급격히 증가시킨다. 이에 따라 전력공급 안정성과 피크 수요 관리, 전력요금 인상 가능성, 전력계통 투자가 필요하다는 신호가 지역 전력사업자·규제 당국에 전달될 것이다. 또한 400V DC 분배와 대용량 배터리 백업 시스템 도입은 건물·시설 설계 기준의 변화를 요구할 수 있다.
셋째, 반도체 패키징과 고급 냉각(액체냉각) 설비, 광회로 스위치(OCS) 시장에 대한 수요가 크게 늘어날 전망이다. 후본의 추정대로라면 2026년 광회로 스위치 수요가 1만 대 이상 증가할 것이며, 이는 해당 부품을 제조·공급하는 기업들의 매출 전망에 긍정적이다. 반면 패키징 병목이 해소되지 않으면 TPU 공급이 제약되어 단기적인 서버 가격 변동성과 납기 지연이 발생할 수 있다.
기업·투자자 관점의 시사점
기업들은 AI 인프라 선택 시 기술적 적합성뿐 아니라 개발자 생태계, 코드 이식성(portability), 인력 확보 가능성, 전력·냉각 인프라의 총소유비용(TCO)을 종합적으로 고려해야 한다. 투자자 입장에서는 구글의 대규모 자본지출이 데이터센터 관련 장비·전력 인프라·패키징 업체에 중장기적 수요를 창출할 가능성을 주시할 필요가 있다. 동시에 엔비디아 등 GPU 공급업체의 단기적 매출 및 수익성은 여전히 견고할 것으로 보인다.
결론적으로, 아이언우드 TPU v7의 대규모 배치는 AI 인프라 구도를 재편할 잠재력을 갖지만, 소프트웨어 생태계와 공급망 제약, 전력·냉각 인프라 요구 수준이 확산 속도를 결정할 것으로 보인다. 후본의 추정치와 기술 분석을 종합하면 2026년은 구글이 물리적 인프라와 시스템 설계에서 크게 전진하는 해가 될 전망이며, 2027년 이후에는 패키징·제조 역량 확장 여부에 따라 본격적인 양산 확대가 가능할 것으로 보인다.
주요 수치 요약: TPU v7 랙당 칩 64개, 랙 연결 최대 144개(동기화된 9,216 TPU), 2026년 랙 추정치 약 36,000대, 필요 OCS >10,000개, 칩당 전력 850~1,000W, 랙당 전력 80~100kW, 400V DC 전력 분배 및 배터리 백업 도입, 2026년 TPU 생산량 추정 3.1~3.2백만 개.
