AI 기본법 대비…생성AI 콘텐츠 워터마크 삽입·판별 무상 SW

(생성AI스타트업협회 제공)

(서울=뉴스1) 윤주영 기자 = 생성AI스타트업협회(협회장 이세영 뤼튼테크놀로지스 대표)는 이달 22일 AI 기본법 시행을 앞두고 '생성 AI 신뢰성 확보를 위한 K-Safe 공개 API' 서비스를 국내 AI 기업들에 무상 공급한다고 15일 밝혔다.

이는 생성형 AI 콘텐츠의 신뢰성 확보와 출처 검증을 지원하는 공개 인프라다. 회원사 스냅태그가 관련 기술을 지원하는 것으로, 기업은 비용·인프라·보안 등 부담 없이 즉시 도입이 가능하다. 딥페이크 확산 방지 등 AI 기본법을 준수하는 데 도움이 된다.

협회는 AI 생성물에 식별 정보를 삽입하는 '인코딩(Encoding)' 소프트웨어 개발 키트(SDK), 해당 콘텐츠가 생성 AI로 만들어졌는지를 확인하는 '디코딩(Decoding)' 키트를 모두 무상으로 제공한다.

해당 키트들을 자사 서비스에 설치한 뒤 K-Safe 공개 API 서버와 연동하기만 하면 즉시 비가시성 워터마크가 생성된다. 워터마크 삽입과 검증은 각 기업의 로컬 환경(SDK)에서 수행된다. 공개 서버와는 인증키(Key) 정보만을 교환하는 구조기 때문에 보안 우려가 적다.

K-Safe 공개 API 아키텍처 개념도.(생성AI스타트업협회 제공)

또 콘텐츠가 AI 생성물인지 여부는 확률이 아닌 '탐지/비탐지' 두 가지로만 판정된다. 이같은 이분법적 판단은 사람의 해석을 크게 요구하지 않기 때문에, AI 기본법 관련 정책·법·수사 환경에서 즉시 활용 가능한 결정적 근거로 쓰일 수 있다.

이 밖에도 K-Safe 공개 API의 검증은 사용자가 기사 업로드, 게시물 등록, 이메일 전송, 콘텐츠 배포 등 기존 업무 흐름에서도 자동으로 검증이 가능하도록 설계됐다. 운영자의 실수나 선택에 따라 검증이 누락될 가능성을 원천 차단하는 것이다.

아울러 서비스는 원본 콘텐츠를 외부 서버로 전송하지 않는 '제로 콘텐츠(Zero-Content)' 아키텍처를 채택, 보안성을 한층 강화했다. 이미지나 영상 원본은 기업 내부에만 남고, 공공 API와는 암호화된 식별 정보만 교환된다.

협회는 이달 중 협회 내부적으로 베타 서비스를 시작한다. 안정화 과정을 거쳐 4월부터 국내 모든 AI 기업과 콘텐츠 플랫폼에 서비스를 전면 무상 개방할 계획이다.

한편 공개 API에 적용된 스냅태그의 기술은 이미 정부·군·대기업 정보보호 환경에서 약 50만 명 이상의 사용자를 통해 입증됐다. 서비스의 보다 상세한 아키텍처는 이달 20일 일본 도쿄에서 열리는 한일 AI 스타트업 밋업데이 행사에서 확인할 수 있다.

legomaster@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지. <용어설명> ■ API API는 응용프로그램 인터페이스(Application Programming Interface)로 하나의 소프트웨어 컴포넌트가 다른 소프트웨어 컴포넌트와 상호작용할 수 있도록 설계된 인터페이스다. 즉, 소프트웨어끼리 서로 정보를 주고받고 기능을 사용하게 해주는 중간다리다. ■ 딥페이크 딥페이크(Deepfake)는 인공지능(AI) 기술인 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어로 AI를 이용해 실제와 구분하기 어려운 가짜 이미지·영상·음성 등을 만들어내는 기술을 말한다.