엔비디아, AI 추론 스타트업에 2200억원 투자

젠슨 황 엔비디아 최고경영자(CEO)가 지난 5일(현지시각) 미국 네바다주 라스베이거스 퐁텐블루에서 열린 엔비디아 CES 2026 라이브에서 특별연설을 하고 있다. /뉴스1

인공지능(AI) 추론 최적화 플랫폼을 개발하는 미국 스타트업 베이스텐(Baseten)에 엔비디아가 1억5000만달러(약 2200억원)를 투자한다. 이는 베이스텐이 최근 조달한 투자액 3억달러의 절반에 해당하는 규모다.

월스트리트저널(WSJ)은 20일(현지 시각) 이 내용을 보도하며 “엔비디아가 AI의 추론을 더 효율적으로 만들어주는 기술에 대해 공격적으로 투자를 확대하고 있다”고 전했다.

AI 업계가 대형 모델 학습에서 추론으로 중심을 옮겨가는 추세라는 분석이다. 똑똑한 AI의 뇌를 만드는 단계가 ‘학습’이라면, ‘추론’은 이미 만들어진 뇌를 효과적으로 사용하게 만드는 단계를 뜻한다. 추론에서는 더 적은 자원을 쓰면서 더 빨리 결과를 도출해 전력 소모와 사용료를 줄이는 게 핵심이다.

천문학적 투자 자금이 필요한 대형 AI 모델의 학습 경쟁은 빅테크가 주도했지만, 추론 영역은 다양한 스타트업이 시장을 만들어 갈 수 있는 배경이다.

엔비디아는 AI 학습용 GPU(그래픽 처리 장치) 시장을 장악하고 있는데, 향후 각광받을 AI 추론 시장도 선점하기 위해 공격적으로 투자에 나선 것이다.

앞서 지난달 엔비디아는 더 효율적인 추론을 할 수 있는 언어처리장치(LPU)를 개발하는 그로크(Groq)에 200억달러(약 29조원)를 투자하기로 했다. 두 회사는 표면적으로는 기술을 독점적으로 사용하는 ‘기술 계약’을 맺었지만, 사실상 엔비디아가 그로크를 인수한 것이나 마찬가지라는 평가가 나온다.

엔비디아가 GPU의 잠재적 경쟁 제품이 될 수 있는 그로크의 LPU와, 베이스텐의 소프트웨어적 최적화를 내재화하려 한다는 분석도 있다. GPU와 추론 전용 칩, 그리고 추론 효율화 소프트웨어까지 묶은 완전한 AI 시스템 공급자로 거듭나려는 전략이라는 것이다.

AI 추론에 집중하는 스타트업들은 최근 가치가 크게 높아지고 있다. 대형언어모델(LLM)의 추론·서비스용 클라우드에 초점을 맞춘 세레브라스 시스템스는 현재 기업 가치가 220억달러(약 32조원)에 달하는 것으로 추정된다. 개발자들에게 AI 추론 인프라를 제공하는 파이어웍스AI는 지난해 10월 기업 가치 40억달러를 평가받으며 2억 5000만달러를 조달하는 데 성공했다.

[오로라 기자]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -