카카오, AI 안전성 검증 모델 ‘카나나 세이프가드’ 오픈소스 공개

카카오는 27일 AI(인공지능) 서비스의 안전성과 신뢰성을 검증할 수 있는 ‘카나나 세이프가드(Kanana safeguard)’ 3종 모델 오픈소스를 공개한다고 밝혔다. 카카오 제공

카카오는 27일 AI(인공지능) 서비스의 안전성과 신뢰성을 검증할 수 있는 ‘카나나 세이프가드(Kanana safeguard)’ 3종 모델 오픈소스를 공개한다고 밝혔다.

앞서 AI 서비스 ‘카나나’를 개발한 카카오는 유해 콘텐츠 위험성에 대한 사회적 우려를 인식하고 보호 시스템을 만들었다.

‘카나나 세이프가드’는 사용자의 발화나 AI 답변에서 증오나 괴롭힘, 성적 콘텐츠 등의 유해성을 탐지한다.

‘카나나 세이프가드-사이렌’은 개인 정보나 지식재산권 등 법적 측면에서의 주의가 필요한 요청을 탐지하고, ‘카나나 세이프가드-프롬프트’는 AI 서비스를 악용하려는 사용자의 공격을 탐지한다.

카카오는 안전한 AI 서비스 생태계 구축에 기여하고자 세 가지 서비스를 개발했으며, 상업적 이용과 수정·재배포 등이 자유롭게 ‘아파치 2.0’ 라이선스를 적용했다.

AI 서비스 3종 모델 오픈소스 공개는 국내 기업 최초라는 게 카카오의 설명이다. 3종 모델은 글로벌 AI 모델 공유 플랫폼 ‘허깅페이스(Hugging Face)’에서 받을 수 있다.

카카오 관계자는 “생성형 AI 등장으로 기술 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각된다”고 말했다.

이어 “책임감 있는 AI 구축에 대한 인식을 널리 확산시키고, 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제 대응을 이어가겠다”고 덧붙였다.

김동환 기자 kimcharr@segye.com

ⓒ 세상을 보는 눈, 세계일보