카카오 '카나나', 국내 첫 AI 안전성 평가서 "안전도 높아"

(서울=연합뉴스) 조성미 기자 = 과학기술정보통신부는 인공지능안전연구소 등과 카카오[035720]의 인공지능(AI) 모델인 카나나를 대상으로 국내 첫 AI 안전성 평가를 진행해 유사 규모의 글로벌 모델 대비 안전성이 높은 점이 확인됐다고 29일 밝혔다.

카카오는 인공지능안전연구소와 국내 산학연이 꾸린 'AI 안전 컨소시엄'에 참여하고 있다.

이번 안전성 검증은 '카나나 에센스(Kanana Essence) 1.5' 모델을 대상으로 안전성 벤치마크 데이터셋인 '어슈어 AI(AssurAI)'를 적용했다.

폭력, 차별적 표현 등 일반적인 위험 요소부터 무기 제작, 해킹 등 위험도가 높은 시나리오까지 위험 요소 평가가 적용됐으며 평가 비교 대상은 미국 메타의 라마(Llama) 3.1, 프랑스 미스트랄AI의 미스트랄 0.3이다.

과기정통부와 인공지능안전연구소는 이번 평가를 기반으로 안전성 검증을 '독자 AI 파운데이션 모델' 프로젝트 1차 단계 등에도 적용할 방침이다.

[그래픽] 카카오 AI 서비스 제공방안 (서울=연합뉴스) 김민지 기자 = 최근 오픈AI와 인공지능(AI) 분야 협업을 발표한 카카오[035720]가 다양한 업무를 수행할 수 있는 'AI 에이전트'를 연내 선보일 계획이라고 13일 발표했다. minfo@yna.co.kr X(트위터) @yonhap_graphics 페이스북 tuney.kr/LeYN1

csm@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>