LGU+, 고객상담에 AI 대거 투입…“LG전자 등 그룹사 AICC 전초기지”(종합)

[디지털데일리 오병훈기자] LG유플러스가 인공지능(AI) 기술을 소비자서비스(CS) 업무에 적극 투입해 자사 상담 기술을 고도화하는 한편, 해당 기술을 LG 그룹사 및 외부 고객사에게 공급하는 등 AI콘택트센터(AICC) 사업 강화에 집중한다.

AICC는 단순히 CS업무에 AI를 적용하는 것을 넘어 AI가 상담 업무 전반에 관여하고, 데이터를 체계화해 전체적인 업무 효율을 높이는 역할을 한다. 상담사와 내담 고객 간의 대화를 데이터베이스(DB)화 하고, 이를 기반으로 다시 AI 엔진을 고도화하는 등 선순환 체계를 구축해 장기적으로 CS 업무 수준을 높이는데 집중하겠다는 것이 LG 유플러스 설명이다.

서남희 LG유플러스 CV담당은 27일 용산 본사에서 개최된 ‘AI상담어드바이저’ 설명회에서 “LG유플러스 고객센터를 통해 쌓은 연간 1800만여건 상담 데이터를 바탕으로 상담사를 제일 잘 아는 AI 어드바이저가 될 수 있도록 지속 강화하고 있다”며 “상담사 업무의 효율화와 고객 편의성 개선을 통해 AI 상담 어드바이저를 도입한 회사까지 만족하는 선순환 구조를 만들기 위해 노력하겠다”고 전했다.

◆알아서 잘하는 AI 상담사 “RAG부터 GoT까지 적용”

AI상담어드바이저에는 지금껏 시장에서 주목 받아온 AI 기술이 대거 적용됐다. 음성을 텍스트로 전환해주는 STT(스피치 투 텍스트) 기술부터 할루시네이션(환각)을 줄이고 실시간 정보 대응이 가능한 검색증강생성(RAG), 반복 학습으로 AI 엔진을 강화하는 ‘체인 오브 쏘트(CoT)’ 기반 ‘그래프 오브 쏘트(GoT)’ 등이 대표적이다.

먼저 AI상담어드바이저는 내담자가 상담자와 대화를 시작할 때부터 개입된다. 예컨대 내담자가 “한 달에 50기가바이트(GB) 데이터를 사용하는 5세대이동통신(5G) 요금제를 찾고 있다”고 상담을 요청하면, AI가 해당 음성을 STT 기술을 활용해 텍스트로 전환하고, 이해한 뒤 상담자 화면에 LG유플러스 5G 요금제를 비롯한 할인 정보 등을 종합적으로 정리해 표출하는 식이다.

상담 관련 정보를 찾고, 이를 표출하는 과정에는 ‘에이전틱RAG’ 기술이 적용됐다. 기존 RAG 기술에서 한 단계 발전한 RAG 기술로, 일반적인 RAG는 단순히 외부 문서를 검색해 결과값에 적용하는 수준이었다면, 에이전틱RAG는 AI가 전후 맥락을 이해하고 알아서 외부 소스를 공급하고, 이를 사용자에게 전달한다.

이진희 CTO 신규서비스개발랩담당은 “일반적인 RAG 기술은 프롬프트 맥락을 이해할 수 없지만, 에이전틱 RAG를 도입함으로써, AI가 스스로 맥락을 파악해 외부 문서를 검색하고 가져오도록 했다”며 “자율적 의사 결정을 하고 최종적으로 답변 생성하게 된다”고 설명했다.

CoT 기술을 기반으로하는 GoT는 상담사의 상담이 끝난 뒤 상담 품질을 평가하는 ‘AI Auto QA’ 기능에 적용됐다. CoT는 AI의 추론 성능을 강화하기 위한 학습 기법 일종으로 한 가지 프롬프트에 대한 다양한 답변을 추론 학습하는 것이 특징이다.

이 CTO는 “반복을 통해 추론 학습을 진행하는 CoT는 다양한 평가 기준이 적용될 경우, 시간이 지나치게 오래 걸린다는 단점이 있다”며 “LG유플러스가 도입한 GoT는 다양한 평가 기준을 동시에 학습하고 각 평가 기준을 유지적으로 연동해 학습을 진행하기 때문에 상담 평가 업무에 더 효율적”이라고 설명했다.

GoT는 현재 개발 중인 단계로, 이르면 오는 3분기 내 도입 예정이다. 상담 내용을 각 기준에 맞춰 나열하고, 일관된 방식으로 평가한 결과를 제공하는 기술이다.

상담사들이 상담을 마친 뒤 진행하는 후처리 작업도 AI가 자동으로 수행한다. 이는 향후 내담자가 다시 상담을 진행할 때 타 상담사들이 쉽게 이전 정보를 확인할 수 있도록 돕는다. 여기에는 ‘AI 인더 루프(AI In The Loop)’ 기술이 적용된다. 상담 후 대화 내용을 주제별로 분류하는 절차의 정확도를 개선하기 위한 AI 기술이다.

기존에는 AI가 요약하고 분류한 상담 내용을 상담사가 일일이 확인한 뒤 정확도를 판단하는 등 복잡한 과정을 거치는 탓에 많은 시간이 소요됐다. AI In The Loop는 AI의 분류가 정확한지를 또 다른 AI 엔진을 활용해 검증하고, 틀렸을 경우 스스로 학습해 수정하는 것이 특징이다.

이를 통해 LG유플러스는 AI가 상담 전반에 관여하는 AICC 체계를 고도화한다는 방침이다. 실제로 지난해 9월 LG유플러스 고객센터에 AI상담어드바이저를 도입한 이후 고객 통화당 연결 대기 시간은 평균 17초, 통화 시간은 평균 30초 줄어 전체 상담 시간이 약 19% 개선됐다는 것이 LG유플러스 측 설명이다.

정성권 LG유플러스 IT·플랫폼빌드그룹장(상무)는 “상담사가 고객의 목소리에 집중하며 소통을 강화할 수 있도록, AI를 활용하여 업무 프로세스를 자동화하는 데 주력하고 있다”며 “앞으로도 고객에게 차별화된 상담 경험을 제공할 수 있도록 AI 적용 분야를 개발하고 고도화하겠다”고 말했다.

◆ AICC 연간 매출 350억원 목표…연내 LG전자 등 그룹사 적용 속도

LG유플러스는 AI상담어드바이저를 전면에 내세워 LG그룹사 내 AICC 전초기지 역할을 한다. 고도화한 AI상담어드바이저에 각 계열사 특성 데이터를 적용하고, 이를 활용한 상담 효율성 고도화 작업의 주축으로 활동한다는 방침이다. 이에 따라 LG유플러스 내부에만 적용된 AI상담어드바이저를 순차적으로 그룹 계열사 도입 작업을 추진중인 상황이다.

이 CTO는 “현재 AI상담어드바이저를 LG유플러스 사내에 적용한 상황이며, 연내 그룹 계열사 적용을 긴밀하게 이야기 하고 있고, LG전자 등에 선 적용하는 것을 목표로 논의가 진행되고 있다”고 말했다.

AI상담어드바이저를 기업에게 공급하는 기업 간 거래(B2B) 사업에도 박차를 가한다. AI상담어드바이저를 중심으로 하는 AICC를 고객사가 각 사 데이터에 특화된 상담 체계를 구축하는 것을 지원하겠다는 방침이다. 이를 위해 멀티 대형언어모델(LLM) 기조를 강화한다. 통상적으로 최근 출시되는 AI 서비스는 LLM 모델에 기반하는데, 여기서 활용되는 LLM을 다양한 브랜드 LLM으로 활용하는 것이다.

현재는 LG그룹 내 AI 사령탑 격인 LG AI 연구원에서 지난해 개발한 ‘엑사원3.5-2.4B’을 중점적으로 활용하고 있지만, 기술 변화 속도가 빠른 AI 시장에 대응하는 만큼, 다양한 LLM을 유연하게 활용하는 AICC 기술을 도입하겠다는 취지다.

정 CTO는 “LG유플러스 AICC는 LG AI 연구원에서 개발한 엑사원3.5 2.4B모델을 기반으로 하고 있으며, 통신 특화 SLM인 익시젠 모델을 활용 중인 상황이며, 이후 AICC 에 다양한 LLM 도입을 검토 중”이라며 “다양한 산업에서 AICC를 활용할텐데, 이런 쪽에서는 공공LLM보다는 소형언어모델을(SLM)을 선호하는 경우가 많은데, 이 과정에서 SLM 기반을 다지는데 엑사원이 큰 역할을 했다”고 평가했다.

그룹사 외 다양한 산업군에 대한 AICC 공급 사업도 추진한다. 그룹사 적용과 외부 AICC 사업 수주 등을 통해 연간 매출 350억원을 달성하는 것이 목표다.

정 CTO는 “아직까지 산업군에서 AICC 관련 서비스형소프트웨어(SaaS) 수요가 그리 크지 않은 상황이지만, 미래에는 SaaS 시장이 커질 것으로 판단하고, 그에 맞춰 대응할 예정”이라고 전했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -