프랑스 스타트업 미스트랄이 유럽 최초의 인공지능 추론 모델을 화요일에 출시했다. 이는 미국과 중국의 경쟁자들과 맞서기 위한 대륙의 노력에서 중대한 진전을 나타낸다. 이러한 움직임은 AI 산업 전반에 걸친 근본적인 변화의 신호이다.
지난 수년간 AI의 진보는 단순하고 비싼 신조에 의해 정의되었다: 더 많은 데이터와 더 많은 컴퓨팅 파워로 더 큰 모델을 구축하라. 하지만 이제는 규모뿐만 아니라 효율성과 ‘생각’할 수 있는 능력에 중점을 둔 새로운 패러다임이 나타나고 있다. 이 새로운 접근 방식은 ‘추론’에 중심을 두고 있으며, 이는 가장 자금이 풍부한 연구소만이 최전선에서 경쟁할 수 있다는 아이디어에 도전장을 내민다.
2025년 6월 11일, 나스닥닷컴의 보도에 따르면, 이러한 ‘추론 모델’은 무엇이며 왜 중요한가?
전통적인 대형 언어 모델(LLM)은 시퀀스에서 다음으로 가장 가능성 있는 단어를 예측하여 응답을 생성했다. 그러나 추론 모델은 ‘사고 과정’으로 불리는 보다 복잡한 과정을 사용한다. 이 모델은 최종 답변을 제공하기 전에 다양한 논리적 단계를 생성하여 문제를 분해하고, 작업을 점검하며, 해결책을 찾기 위한 여러 경로를 탐색한다.
이는 심오한 변화를 나타낸다. 이전에는 사전 훈련이 중요했다. 즉, 더 많은 데이터와 컴퓨팅을 사용하여 모델을 훈련시키면 더 나아졌다. ‘새로운 스케일링 법칙’은 추론 시간 컴퓨팅에 관한 것이다.
모델이 요청을 받을 때 더 많은 계산적 ‘생각’을 하면 할수록 그 결과는 더 정확하고 신뢰할 수 있게 된다. 이는 전통적인 LLM의 가장 큰 약점 중 하나인 ‘환각’으로 알려진 것이나 부정확한 정보를 자신 있게 진술하는 경향에 직접 대응한다. 문제를 추론하여 모델은 스스로 수정할 수 있고 잘못된 경로를 피할 수 있다.
이전의 ‘브루트 포스’식 대규모 훈련 실행 접근법은 수백만 달러, 심지어는 수십억 달러를 인프라에 투자할 수 있는 기업만 이 선두 모델을 구축할 수 있는 큰 장벽을 만들었다. 그러나 2025년 초, 작은 중국 스타트업 딥시크가 이러한 역학을 흔들었다. 딥시크는 OpenAI의 최고의 모델과 동등한 세계적 수준의 성능을 달성하는 모델을 출시했으며, 소위 V3 모델 훈련에 5백만 달러를 조금 넘는 비용을 들였다고 주장했다. 이는 서구 연구소의 1억 달러 이상의 예산과 비교된다.
딥시크의 돌파구는 똑똑한 소프트웨어와 하드웨어 최적화의 결과였으며, 그 R1 추론 모델은 새로운 스케일링 법칙의 힘을 입증했다.
이는 단순히 가장 큰 모델을 가진 것이 아니라 더 효과적으로 생각할 수 있는 모델을 가지는 것이 우수한 결과를 달성할 수 있음을 보여주었다. 이는 엔비디아의 CEO 젠슨 황이 말했듯이, ‘세계 AI 산업에 대한 선물’이었다. 모델 아키텍처 내의 혁신이 자본과 컴퓨팅 접근보다 더 강력한 지렛대가 될 수 있음을 증명했기 때문이다.
누가 이 추론 경쟁의 주요 플레이어인가?
추론 모델로의 이동은 주요 AI 연구소들 사이에서 명확한 경향이지만, 그 전략은 서로 다르다.
OpenAI는 이 분야를 선도했으며 최근 출시된 o4-mini와 o3 같은 ‘o-series’ 모델로 이를 시작했다. 이러한 모델은 수백 가지 도구 호출을 수행하고 복잡한 문제를 해결하기 위해 연장된 기간(때로는 몇 분) 동안 생각할 수 있다. 물론 이 과정에는 높은 컴퓨팅 비용이 따른다. OpenAI는 이 모델들을 독점적으로 유지하고 고가의 API를 통해 제공하고 있다.
구글은 자사의 Gemini 2.5 Pro 모델에 유사한 기능을 통합했다. 이 모델도 자체 프롬프트를 활용하여 작업을 추론하며 여러 산업 리더보드에서 선두를 차지하고 있다. 구글은 자사의 TPU 하드웨어를 활용하여 OpenAI보다 훨씬 낮은 가격에 이러한 기능을 제공하고 있다.
딥시크는 R1 추론 모델을 오픈 소스로 공개하여 전 세계 개발자들이 빠르게 수용하고 그 기술을 구축할 수 있게 함으로써 그 영향력을 가속화하고 서구 연구소의 폐쇄적인 접근법을 도전하고 있다.
미스트랄은 현재 작은 버전을 오픈 소스로 공개하고 있는 ‘Magistral’ 모델로 비슷한 길을 걷고 있다. 이를 통해 커뮤니티를 구축하고 그 능력을 입증하면서 더 강력한 버전을 기업 고객에게 제공하려는 목표로 하고 있다. 이로써 유럽의 자생적인 챔피언으로 자리잡고 있다.
이것이 AI 하드웨어 시장에 무엇을 의미하는가?
이러한 전환은 전체 하드웨어 공급망에 엄청난 영향을 미친다. 이전의 스케일링 법칙은 훈련을 위한 GPU에 대한 끝없는 수요를 창출하여 엔비디아를 확고한 왕으로 만들었다. 훈련은 여전히 중요하지만, 추론 시간 컴퓨팅에 대한 새로운 초점은 다른 하드웨어 수요를 만들어낸다.
현재 추론 모델의 주요 단점은 높은 대기 시간이다. OpenAI의 o1에 대한 쿼리는 응답을 생성하는 데 5분 이상 걸릴 수 있다. 이는 빠른 추론에 최적화된 하드웨어를 제공할 수 있는 회사들에게 거대한 기회를 제공한다. 여기에는 훈련과 추론 모두에 사용되는 엔비디아의 GPU는 물론, 성능을 극대화하는 특화된 칩을 개발하는 Cerebras와 Groq 같은 혁신가들이 포함된다. 이러한 솔루션들은 낮은 대기 시간이 요구되는 애플리케이션에서 매우 중요해질 수 있다. 게다가 작업 부하가 일회성 대규모 훈련에서 지속적이고 광범위한 추론으로 이동함에 따라, AMD, 인텔 같은 플레이어와 하이퍼스케일러가 개발한 커스텀 실리콘의 전력 효율적이고 비용 효율적인 추론 칩에 대한 수요가 증가할 것으로 예상되어, 반도체 산업 전체의 경제 구조를 재편할 것으로 예상된다.
