코난테크놀로지, '에이전트 RAG' 상용화…온디바이스 회의록도 연내 공개

코난테크놀로지

코난테크놀로지가 올해 연구개발 파이프라인을 정비하고 에이전틱 검색증강생성(RAG) 서비스와 온디바이스 회의록, 인공지능(AI) 스테이션 등 실사용 중심의 제품을 빠르게 시장에 선보인다.

최정주 코난테크놀로지 최고기술책임자(CTO)는 18일 “코난이 강점을 가진 검색·RAG 기술을 중심으로, 실제 고객 업무에 바로 쓰일 수 있는 제품을 빠르게 내놓을 것”이라며 “상용화 가능한 영역부터 동시에 제품으로 연결해 시장 반응을 확인하고 고도화하겠다”고 밝혔다.

우선 기존 거대언어모델(LLM) 기반 업무 시스템에서 활용되는 '에이전틱 RAG'를 서비스 제품으로 선보인다. 사용자의 모호한 질문을 LLM이 해석한 뒤 검색 쿼리를 생성하고 검색 결과를 바탕으로 의도를 재평가한 후 문제를 작은 단위로 쪼개 단계적으로 해결하는 구조다. 이를 기업의 업무 매뉴얼과 프로세스에 결합, 반복적이고 복잡한 업무를 자동화하는 실사용형 AI 시스템으로 발전시킬 계획이다.

코난테크놀로지는 기업용 AI 회의록 시스템 '원노트'도 연내 출시한다. 회의 내용을 외부 클라우드로 전송하지 않고 기기 내부에서 음성 인식, 요약, 화자 분리, 동시 발화 분리까지 처리하는 온디바이스 회의록 기록 장치로 개발 중이다. 이 제품은 회의 내용 유출을 우려하는 공공기관과 산업 고객을 주요 대상으로 한다.

하드웨어는 직접 제조보다는 파트너사와 협업하는 방식이 유력하며, AI PC 등 관련 제품 개발 과정에서 축적한 협업 경험을 활용한다.

아울러 기업 고객이 도입한 AI 시스템을 스스로 재학습·현행화할 수 있도록 지원하는 'AI 스테이션'도 고도화한다. 시스템을 고도화할 때 외주 개발에 의존하지 않고 고객 내부에서 처리할 수 있도록 돕는 도구다. 단독 상품보다는 서비스에 결합되는 형태로 제공하는 방안을 검토하고 있다.

코난테크놀로지는 그동안 독자 개발한 자연어처리(NLP) 기술과 LLM 개발, 검색 엔진 고도화 등 다양한 기술을 병행해 왔다. 최근 AI 기술 성숙 단계에 접어들면서 연구소 차원에서 제품화가 가능한 기술부터 빠르게 시장에 내놓는 방향으로 조직과 파이프라인을 재구성했다.

내부 개발 문화 역시 효율과 보안을 동시에 강화하는 방향으로 바뀌고 있다. 코난테크놀로지는 최근 외부 바이브 코딩 도구 사용을 중단하고 내부 서버에 구축한 코딩 지원 시스템만 활용하도록 전환했다. 자사 검색 특화 언어까지 학습된 내부 도구를 활용해 개발 생산성을 높이겠다는 판단이다.

최 CTO는 “AI 기업도 내부부터 AI로 효율화하지 못하면 경쟁력을 갖기 어렵다”며 “개발 조직 자체를 하나의 AI 적용 사례로 만들겠다”고 강조했다.

최정주 코난테크놀로지 최고기술책임자(CTO)

김명희 기자 noprint@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]