미스트랄, 첫 임베딩 모델 출시..."오픈AI·코히어보다 코드 검색 뛰어나"

[박찬 기자]

(사진=셔터스톡)

미스트랄 AI가 코드 특화 임베딩 모델 '코드스트랄 임베드(Codestral Embed)'를 공개했다. 이는 미스트랄의 첫 임베딩 모델로, 코드 검색에서는 최고 성능을 발휘한다고 주장했다.

미스트랄은 28일(현지시간) 코딩 전용 모델군인 '코드스트랄 패밀리'의 하나로, 코드스트랄 임베드를 출시했다.

임베딩 모델은 코드나 데이터를 숫자인 벡터 정보로 변환, 검색이나 유사도 분석, 코드 분석 등의 작업을 가능하게 만든다.

이 모델은 사용자가 숫자를 얼마나 자세하게 표현할지 '정밀도(precision)'와 몇개의 숫자로 표현할지 '차원(dimension)'을 직접 설정할 수 있다. 미스트랄에 따르면, 가장 간단한 설정인 '256차원에 8비트 정수(int8) 정밀도'만으로도 다른 회사 모델들보다 뛰어난 성능을 보였다.

이를 통해 프로그래머들이 흔히 겪는 문제, 즉 방대한 코드 속에서 특정 함수나 패턴, 버그 수정을 찾아내는 과정을 훨씬 수월하게 만들어준다.

미스트랄은 이 모델이 네가지 핵심 활용 사례에 최적화됐다고 설명했다.

먼저 검색 증강 생성(RAG)에 강하다. AI 모델이 정확한 응답을 생성할 수 있도록 정보를 빠르게 검색하고 제공할 수 있다는 설명이다. 또 의미 기반 코드 검색(Semantic Code Search) 기능을 통해 개발자는 자연어로 원하는 기능의 코드 스니펫을 쉽게 찾을 수 있으며, 이는 개발 도구 플랫폼, 문서화 시스템, 코딩 보조 도구 등에 유용하게 적용될 수 있다고 전했다.

유사도 검색(Similarity Search) 기능은 중복된 코드나 유사한 코드 문자열을 탐지, 기업 내 코드 중복 정책 준수나 보안 강화를 위한 도구로 활용될 수 있다. 마지막으로, 코드 분석 및 클러스터링(Code Analytics & Clustering) 기능은 코드의 기능이나 구조에 따라 자동으로 코드를 분류하거나 군집화할 수 있어, 저장소를 분석하거나 코드 아키텍처의 패턴을 파악하는 데 도움을 준다고 밝혔다.

https://twitter.com/sophiamyang/status/1927737869256331369

이처럼 코드스트랄 임베드는 개발자가 자연어를 사용하여 코드 조각을 찾을 수 돕는 데 초점을 맞춘 모델이다.

최대 8192개의 토큰을 처리할 수 있는 컨텍스트 창을 제공하지만, 최상의 성능을 위해 코드를 약 3000자 단위로 나누고 각 세그먼트마다 약 1000자를 겹치도록 분할하는 방식을 권장했다.

'SWE-벤치'나 '텍스트2코드' 등 벤치마크에서 주요 임베딩 모델을 압도했다. 특히, 오픈AI의 '텍스트 인베딩 3 라지', 코히어의 '임베드 v4.0', 보이지 코드 3 등에 비해 확실하게 앞섰다고 강조했다.

여기에 임베딩 비용이 100만 토큰당 0.15달러로 책정, 경제성과 효율성 모두를 갖췄다는 평가를 받고 있다.

한편, 미스트랄은 최근 기업 시장을 겨냥해 잇달아 신제품을 내놓고 있다. 지난 7일에는 기업용 AI 어시스턴트 '르샤 엔터프라이즈'와 새로운 AI 모델 '미디엄 3'를 공개했다.

이어 21일에는 코딩 전문 경량 모델 '데브스트랄'을 출시했으며, 바로 전날인 27일에는 기업용 AI 에이전트 구축을 위한 API 서비스 '에이전트 API'를 선보였다.

이처럼 이번 임베딩 모델은 5월 들어 4번째 내놓는 기업 전용 제품이다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>