中앤트그룹, GPU 없이 AI 학습 비용 절감
중국산 반도체 활용하는 기술 개발
고급 GPU 없이도 AI 모델 학습 가능
중국산 반도체 활용하는 기술 개발
고급 GPU 없이도 AI 모델 학습 가능
 |
中앤트그룹, GPU 없이 AI 학습 비용 절감 성공 [그림=챗GPT] |
중국의 핀테크 대기업 앤트그룹(Ant Group)이 인공지능(AI) 모델 학습 비용을 약 20% 절감하는 기술을 개발했다고 밝혔다. 이 기술은 중국산 반도체를 활용하여 개발되었으며, 기존 엔비디아의 고성능 GPU를 사용하던 방식을 대체할 수 있는 잠재력을 갖추고 있다.
24일 블룸버그에 따르면 앤트그룹은 알리바바 그룹과 화웨이에서 공급받은 반도체를 활용하여 ‘전문가 혼합(Mixture of Experts, MoE)’ 머신러닝 기법을 적용했다. 이 접근법은 데이터를 여러 전문가로 구성된 팀처럼 분산 처리함으로써 효율성을 극대화한다. 블룸버그에 따르면 이러한 방식으로 얻은 성능은 엔비디아의 최신 H800 GPU와 유사한 수준이라고 한다.
앤트그룹은 1조 개의 토큰을 학습하는 데 약 635만 위안(약 11억 원)을 소요했으나, 최적화된 방식을 통해 이를 510만 위안(약 9억 원)으로 절감할 수 있었다고 밝혔다. 이는 오픈AI나 구글이 수조 원을 투자하는 것과 비교해 상당히 저렴한 비용이다.
앤트그룹은 AI 기술을 의료와 금융 분야로 확장하고 있다. 올해 초 온라인 의료 플랫폼 하오디에프닷컴(Haodf.com)을 인수하여 AI 기반 의료 지원 시스템을 개발했다. ‘AI Doctor Assistant’는 29만 명 이상의 의사를 지원하며, 전자의무기록 관리 등의 업무를 돕는다.
또한 ‘지샤오바오(Zhixiaobao)’라는 생활 지원 AI 앱과 ‘마샤오차이(Maxiaocai)’라는 금융 자문 AI 서비스도 운영 중이다. 의료 분야에서는 ‘엔젤(Angel)’과 ‘이바오얼(Yibaoer)’이라는 의료 AI 에이전트를 도입하여 병원과 보험사에서 사용하고 있으며, 알리페이(Alipay) 앱 내에도 ‘AI Healthcare Manager’ 서비스를 제공 중이다.
앤트그룹의 ‘링-플러스(Ling-Plus)’와 ‘링-라이트(Ling-Lite)’ 모델은 각각 2900억 개와 168억 개의 파라미터를 갖추고 있으며, 중국어 벤치마크에서 기존 모델을 능가하는 성과를 거두었다. 특히 링-라이트 모델은 메타의 Llama 모델보다 영어 이해도 측면에서 더 나은 성능을 보였다고 평가됐다.
앤트그룹의 이 같은 행보는 미국과 중국 간 AI 기술 경쟁 속에서 중요한 의미를 갖는다. 고성능 GPU에 의존하지 않고도 AI 모델을 효과적으로 학습할 가능성을 제시함으로써, 중국 AI 생태계의 독립성을 강화하는 데 기여하고 있다.
특히 의료와 금융이라는 실생활 적용 분야에서 성과를 거두고 있어 향후 중국 내 AI 활용도가 크게 확대될 것으로 전망된다. 또한, 엔비디아와 같은 글로벌 반도체 기업에 대한 의존도를 줄이는 전략은 미국의 기술 제재에 대응하기 위한 방안으로도 해석된다.
[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]
