세계 GPUaaS 시장 |
이는 모든 AI 기업이 안고 있는 고민이다. 대표 회사인 오픈AI 조차 최근 이미지 생성 AI 모델 '챗GPT-4o 이미지 생성' 을 선보였다 곤혹을 치렀다. '이웃집 토토로' 등으로 유명한 일본 애니메이션 스튜디오 지브리의 화풍을 모방한 이미지 생성 기능이 폭발적 인기를 얻으면서 이용자가 급증한 것이다. 샘 올트먼 오픈AI 최고경영자(CEO)는 “(이미지 생성 기능 이용자 급증으로 인해)우리 GPU가 녹아내리고 있다”고 호소하기도 했다.
GPU 수요에 탄력적으로 대응하는 서비스 'GPUaaS(GPU as a Service)'가 주목받는 것도 이 때문이다. 대기업부터 중소기업까지 이 시장에 진출해 차별화한 서비스를 선보이고 있다. 'AI 수요가 있는 곳에 GPU 수요가 있다'는 명제 아래 산업별 AI 접목이 늘수록 GPUaaS 수요도 동반 상승할 것이라는게 업계 예측이다. 국내외 기업 경쟁 속 몇 년 내 기업간 우위가 결정될 것이라는 전망이 나온다.
GPUaaS는 기업이 AI 서비스 개발에 필요한 GPU를 직접 구매하지 않고 클라우드를 통해 빌려 쓰는 구독형 모델이다.
기업이나 기관 등이 직접 GPU를 구매할 경우 여러 어려움에 봉착한다. 우선 고가의 GPU를 구매하기 위한 초기 투자와 GPU를 위한 별도 공간 확보가 동반돼야 한다. 운영 측면에서는 GPU를 구매하고도 이를 부서별 혹은 연구자(직원)별 분배해야 하는데 이 역시 일반 기업이나 기관이 진행하기가 쉽지 않다.
GPUaaS는 이 같은 고민을 해결하는데 주력한 서비스다. 최대 수천억원에 달하는 초기 투자와 매일 GPU 가동을 위해 투입되는 전력·관리 비용 등에 대한 고민 없이 GPUaaS를 이용하면 언제든 쉽고 빠르게 원하는 양만큼 GPU 이용이 가능하다. H100, A100 등 엔비디아 최신 GPU뿐만 아니라 다양한 GPU 가운데 서비스 구현, 연구 등에 적합한 GPU를 선택해 바로 사용할 수 있다는 점도 강점이다.
GPUaaS 서비스를 제공하는 기업 대부분이 클라우드 전문 기업이다. GPU 전문 기업이 아닌 클라우드 업계가 이 서비스를 선보인데는 핵심 기술력과 자원을 보유했기 때문이다.
GPUaaS 서비스 핵심 기능 중 하나는 클러스터 기술을 이용한 GPU 자원할당이다. 기업 내부(온프레미스)에 GPU 환경을 구현할 경우 GPU 전용 데이터센터 구축 등 초기 투자·유지 비용이 상당하다. 클라우드 기업은 AI 전용 데이터센터 내에서 가상화 기술을 활용해 고객이 원하는 만큼 GPU를 묶고(클러스터) 원하는 이용자에게 필요한 만큼 자원을 할당하는 기술을 보유했다. 편의성도 높였다. 동적할당 기술이 대표적이다. 이는 특정 사용자의 GPU 이용이 완료되면 자동으로 자원을 회수한다. 회수된 자원은 다시 필요한 이에게 할당돼 동시다발적으로 자원을 효율적으로 활용할 수 있다.
◇대기업부터 중소기업까지 GPUaaS 시장 주목
국내 주요 클라우드 기업이 GPUaaS에 주력하고 있다.
삼성SDS는 최근 진행한 주주총회에서 올해 중점 사업 중 하나로 GPUaaS를 꼽았다. 업스테이지, 수퍼톤, 베슬AI 등 주요 AI 스타트업이 삼성SDS GPUaaS를 사용 중이다. 삼성SDS는 전문 기술 지원과 GPU 타입별 최적화한 소프트웨어 제공 등을 강점으로 내세우고 있다.
KT클라우드는 AI 학습부터 추론까지 AI 서비스 개발에 필요한 모든 인프라를 지원한다. GPU뿐만 아니라 NPU와 같은 최신 AI 하드웨어도 제공해 고객의 선택 폭을 넓혔다는게 강점이다. KT클라우드는 최근 발표에서 H200과 같은 최신 GPU 공급도 예정(3분기)하고 있다고 전했다.
카카오엔터프라이즈는 카카오클라우드의 클라우드 컴퓨팅 서비스인 비욘드 컴퓨트 서비스(BCS) 중 컴퓨팅 성능을 가속화하는 기술이 적용된 GPU 인스턴스 기능을 제공, 사용자 접속량과 수요에 맞춰 GPU 사용량을 가변적으로 조절할 수 있다는 점이 강점이다. 타사 대비 비용 효율적이고 유연하게 인스턴스 타입을 선택할 수 있으며 높은 용량의 메모리를 지원한다는 것도 차별점이다. 스캐터랩, 다글로 등 주요 AI 스타트업이 카카오엔터프라이즈 서비스를 이용 중이다.
이밖에 네이버클라우드는 자체 기술력으로 운영 중인 데이터센터 '각'에서 엔비디아 A100 GPU를 베어메탈 서버(단독 서버)로 제공한다.
중소기업도 각자 강점을 내세워 시장에 적극 뛰어들었다.
데이터얼라이언스는 유휴 GPU를 연결해 타사 대비 저렴하면서도 맞춤형 GPU를 제공하는 GPUaaS를 지난해 선보였다. 국내 주요 기업, 대학, 연구소 등에서 인기몰이를 하고 있다. 바로AI도 발열·소음 등에 강점을 보유한 GPU서버를 기반으로 한 GPUaaS서비스를 선보여 주목받았다. 바로AI는 제주에 별도 데이터센터를 설립해 이 시장에 대응하는 등 기존 대학, 연구소 등 고객사를 비롯해 기업, 공공 등 서비스 지원 대상을 넓힌다는 계획이다.
업계 관계자는 “외산 GPUaaS 서비스가 있음에도 국내 클라우드 업계가 이 시장에 주목하는 이유는 외산 서비스가 제공하지 못하는 밀착 지원 등 차별화 요소가 있기 때문”이라며 “이 시장은 이제 시작 단계라 향후 1~2년간 경쟁 우위를 잡기 위한 업계 경쟁이 더 치열해질 것”이라고 말했다.
시장조사업체 포천 비즈니스인사이트에 따르면 세계 GPUaaS 시장은 2023년 32억 3000만달러 규모로 평가됐다. 2024년 43억 1000만달러(약 5조 9600억원)에서 2032년 498억 4000만달러(약 68조 9700억원)로 성장하며 연평균 성장률은 35.8%에 달할 것으로 전망된다.
김지선 기자 river@etnews.com
[Copyright © 전자신문. 무단전재-재배포금지]