씨티 리서치가 첫 엣지 AI 아키텍처를 공개하며, 이는 ‘개인 AI 서버’ 시대의 시작으로 여겨진다. 2025년 6월 1일, 인베스팅닷컴(Investing.com)의 보도에 따르면, 이 브로커리지는 AI 모델 효율성 및 반도체 설계의 최근 돌파구로 인해 휴대용 디바이스 내 AI 시스템이 스마트폰, PC 및 기타 소비자 기기 전반에 걸쳐 기초 요소가 될 것으로 전망하고 있다.
씨티의 핵심 주장은 AI 계산을 중앙 서버에서 엣지로 이동시키기 위해 설계된 세 가지 아키텍처적 변화에 있다. 첫 번째는 기존 장치 아키텍처를 변경하지 않고 전통적인 폰 노이만 시스템에 PCIe를 통해 AI 모듈을 추가하는 것이다. 두 번째는 LPDDR6 메모리를 신경 또는 텐서 프로세싱 유닛 근처로 이동시켜 대역폭 및 효율성을 향상시키는 것이다. 세 번째이자 가장 진보된 방법은 LPW 또는 LLW DRAM을 AI 프로세서 바로 옆에 배치하여 엔비디아의 서버 수준 디자인을 모방하며, 더 높은 비용으로 최고 성능을 제공한다.
이 진화는 모델 압축의 진전에 의해 뒷받침된다. 씨티는 모델 크기와 하드웨어 요구 사항을 줄이면서 성능을 희생하지 않는 디스틸레이션, 강화 학습 및 전문가 혼합 아키텍처를 사용하는 DeepSeek의 사례를 언급한다. 이러한 효율성 증가는 엣지 디바이스에서 직접 AI를 실행하는 것을 가능하게 하여 디바이스 내 AI 시스템에 대한 수요를 더욱 가속화한다.
하드웨어 혁신도 이 전환의 중심에 있다. 씨티는 TSMC가 개발한 SoIC(System on Integrated Chip) 패키징의 광범위한 채택을 기대하며, 이는 고밀도 이종 통합을 가능하게 한다. 메모리 부분에서는 2026년 주력 디바이스에 LPDDR6가, 2028년에는 모바일 친화적인 HBM 대체로 묘사되는 LPW DRAM이 주류가 될 것으로 예상된다. 하이브리드 본딩을 통한 다이 투 다이 통합도 더 나은 연결성과 성능을 제공하여 중요한 역할을 할 것으로 예상된다.
엣지 AI로의 전환은 AI 전용 DRAM에 대한 수요를 증가시킬 것이다. 씨티는 총 AI DRAM 소비량이 2024년 350억 개(1Gb 상당)에서 2028년까지 3310억 개로 75%의 연평균 성장률을 기록할 것으로 예측하고 있다. 같은 기간 동안 AI 스마트폰의 세그먼트별 성장은 CAGR 198%, AI PC는 104%, 로봇 공학은 239%로 예상된다.
씨티는 이번 전환의 여러 주요 수혜자들을 지목했다. 여기에는 메모리 제조업체인 SK하이닉스, 삼성, 마이크론이 있으며, 파운드리인 TSMC, 칩메이커인 엔비디아와 미디어텍, 그리고 고급 패키징 및 테스트 장비에 관련된 라미 연구소, 베시, ASMPT, KLA 및 어드밴테스트가 포함된다.
분석가들은 이는 중앙 집중식 AI 인프라에서 분산되고 개인화된 AI로의 컴퓨팅 아키텍처의 광범위한 변화를 나타내며, 소프트웨어와 반도체 기술의 발전이 결합되면서 엣지 AI가 차세대 IT 기기들의 핵심 특징이 될 준비가 되어 있다고 언급한다.
