알리바바, 비용 88% 절감하는 AI 훈련 기술 공개

구글 API에 비용 안 내지만
검색엔진 기반 모델보다 성능 뛰어나

알리바바 로고 로이터연합뉴스

알리바바가 외부 검색 엔진을 사용하지 않는 새로운 인공지능(AI) 훈련법을 개발했다고 홍콩사우스차이나모닝포스트(SCMP)가 12일 보도했다.

논문 공개 사이트인 아카이브 등에 발표된 이 논문에서 알리바바는 구글 등에 고가의 API(응용 프로그램 인터페이스) 비용을 지불하지 않고 정보검색 능력을 훈련할 수 있는 ‘제로서치’라는 새로운 강화학습 방식을 소개했다. 이 방식을 활용하면 AI 훈련 비용을 90% 가량 절감할 수 있는 것으로 알려졌다.

알리바바 연구팀은 논문에서 “효과적인 정보 검색은 거대언어모델(LLM) 추론과 생성 기능을 향상하는데 필수적이지만 검색엔진의 문서 품질을 예측할 수 없어 강화학습(RL) 과정에 불안정성을 초래하며, 수십만 건의 검색 요청 등이 필요해 상당한 API 비용이 발생한다”고 밝혔다. 이어 “이같은 문제를 해결하기 위해 제 검색엔진과 상호작용하지 않고도 LLM의 검색 능력을 훈련할 수 있는 ‘제로서치’를 도입했다“고 덧붙였다.

제로서치란 기존처럼 쿼리(질문)를 구글, 바이두 등 상업용 검색 엔진을 통해 전달하고 응답을 받는 대신 이미 방대한 지식 기반으로 사전 학습된 AI 모델이 자체적으로 양질의 응답을 생성하도록 유도한다.

연구팀은 제로서치 실험을 통해 70억 매개변수 검색 모듈은 실제 검색엔진 기반 모델과 비슷한 성능을 달성했고, 14억 매개변수 모듈은 성능이 더 뛰어났다고 주장했다.

구글 검색 API를 활용해 6만4000건의 질의를 처리하려면 586.7달러(약 82만3000원)의 비용이 들지만 엔비디아의 A100 그래픽처리장치(GPU) 4개로 구성된 14B 모델에서 훈련하는 비용은 70.8달러(약 9만9000원)로 88%의 비용 절감 효과를 얻을 수 있다고 강조했다.

SCMP는 이런 연구 결과는 AI 검색을 발전시키려는 알리바바의 노력과 궤를 같이한다고 밝혔다. 알리바바는 지난 9일 중국에서 가장 많이 사용하는 AI 앱인 ‘쿼크’의 향상된 AI 검색 기능을 공개한 바 있다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]