과기정통부, ‘AI 투명성 확보 가이드라인’ 공개…AI 표시 기준 제시

[디지털데일리 이상일기자] 과학기술정보통신부(부총리 겸 장관 배경훈, 이하 과기정통부)는 1월22일 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(이하 인공지능기본법)상 투명성 확보 의무(제31조)의 구체적 이행 방안을 담은 '인공지능 투명성 확보 가이드라인'(이하 가이드라인)을 공개한다고 21일 밝혔다.

과기정통부는 “그동안 업계에서는 공개된 법률과 시행령만으로 투명성 확보 의무의 구체적 기준을 파악하기 어렵다는 우려가 있었다”며 “지난해 9월 초안을 공개한 뒤 업계 의견을 반영해 실제 현장 중심의 기준을 제시했다”고 설명했다.

이번 가이드라인은 사회적 우려가 큰 딥페이크 생성물에 대해 “사람이 명확히 인식할 수 있는 표시를 의무화해 AI 오용에 대한 국민 불안감을 해소하고자 했다”고 밝혔다. 다만 서비스 환경 내에서만 생성물이 제공되는 경우에는 외부 반출 시와 구분해 유연한 표시를 허용, 기업의 서비스 편의성을 고려했다.

가이드라인은 투명성 확보 의무의 대상을 이용자에게 AI 제품·서비스를 직접 제공하는 ‘인공지능사업자’로 규정했다. 국내 이용자에게 서비스를 제공하는 해외 사업자도 포함된다. 반면 AI를 단순히 업무나 창작의 도구로 활용하는 이용자는 해당되지 않는다.

투명성 확보 의무는 ▲AI 운용 사실의 사전 고지(제1항)와 ▲AI 생성물 표시(제2·3항)로 구성된다. 사업자는 서비스 이용약관, 앱 구동 화면, 오프라인 안내문 등을 통해 고영향·생성형 AI가 적용됐음을 고지해야 한다.

또 AI 생성물이 외부로 반출될 때는 ‘사람이 인식할 수 있는 방법’(워터마크·음성 안내 등)으로 표시하거나 ‘기계가 판독할 수 있는 방법’(메타데이터 등)을 적용해야 한다. 특히 “실제와 구분하기 어려운 가상의 생성물(딥페이크 등)은 반드시 사람이 명확히 인식할 수 있는 방법으로 표시해야 한다”고 명시했다.

과기정통부는 “AI 생성물 워터마크 적용은 딥페이크 오용 등 부작용을 막기 위한 최소한의 안전장치이자 세계적 추세”라며 “현장 준비 부족을 감안해 최소 1년 이상 계도기간을 운영하고 업계와 소통하며 제도 안착을 지원하겠다”고 밝혔다.

해당 가이드라인은 과기정통부 및 한국정보통신기술협회(TTA) 홈페이지에서 확인할 수 있다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -