셀렉트스타 ‘다투모 이밸’, 민간 AI 신뢰성 인증사업 적용

[디지털데일리 이나연 기자] 인공지능(AI) 데이터 전문기업 셀렉트스타가 한국인공지능산업협회(AIIA)의 민간 AI 신뢰성 인증 제도 ‘AI-MASTER’에 시험기관으로 참여했다고 2일 밝혔다.

AI-MASTER는 한국인공지능산업협회가 주관하고, 셀렉트스타와 슈어소프트테크가 시험기관으로 참여하는 실증 중심 민간 주도 AI 신뢰성 검인증 사업이다. 해당 인증은 유럽연합(EU)의 ‘Trustworthy AI’ 원칙 및 ISO/IEC 국제표준 9종을 기반으로, 총 63개 항목에 대해 정량적인 평가를 수행한다.

셀렉트스타는 본 사업에서 거대언어모델(LLM) 영역의 시험기관으로 참여하며, 전체 인증 프레임워크의 공동 설계, 평가 항목 정의, 자동화 평가 도구 개발 등의 역할을 맡는다. 특히 인간의 행동 주체성과 감독, 기술적 강건성과 안전, 투명성, 사회 및 환경 복지 등 4가지 Trustworthy AI 평가 항목과 그에 따른 8가지 세부항목을 정의하고, 루브릭(Rubric) 기반 평가 체계를 설계했다.

AI-MASTER 인증 평가에는 셀렉트스타가 자체 개발한 AI 신뢰성 검증 자동화 솔루션 다투모 이밸이 사용됐다. 다투모 이밸을 활용해 모델의 응답 품질을 분석하고, 셀렉트스타가 구축한 4가지 Trustworthy AI 평가 항목을 기준으로 정량 점수를 산출해 인증 객관성을 높였다. AI-MASTER 인증 평가의 전체 항목 중 약 60%는 다투모 이밸을 통해 자동 평가가 진행된다.

AI-MASTER는 셀렉트스타를 포함한 시험기관의 기술 검증을 거친 뒤, 산학연 전문가들의 인증 심의를 통해 종합 평가돼 한국인공지능산업협회에서 인증서를 발급하는 구조로 운영된다. 향후 정부 연구개발(R&D) 과제, 공공조달 연계, 고영향 AI 지정 제도 등과 연동될 예정이다. 글로벌 인증 상호인정 체계로의 확대도 검토되고 있다.

김세엽 셀렉트스타 대표는 “셀렉트스타가 AI-MASTER 인증 시험기관으로 참여하게 되면서 자사가 보유하고 있는 신뢰성 평가 역량을 공공 인증 체계에 적용할 수 있었다”며 “앞으로도 다투모 이밸을 중심으로 AI 안전성과 AI 서비스 품질 향상에 기여할 것”이라고 말했다.

한편 이번 인증의 1호는 생성형 AI 전문기업 포티투마루(42MARU)의 자사 LLM 모델 ‘LLM42’가 획득했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -