'AI기본법 D-1' 산업계 혼란에 교통정리 나선 정부

22일 시행, 1년간 과태료·사실조사 유예
고영향AI·안전성의무 적용대상 구체화
딥페이크엔 보이는 표시 의무, 영화 예외

정부가 오는 22일 세계 최초로 시행되는 AI기본법을 앞두고 IT 업계의 불안감 해소에 나섰다. 특히 업계가 가장 우려해온 투명성 의무 적용 대상과 방식에 대해 구체적인 가이드라인을 제시했다. 실제와 구분이 어려운 딥페이크 생성물에는 가시적 워터마크를 의무화하되, 영화·드라마 등 콘텐츠에는 비가시적 워터마크도 허용하기로 했다.

세계 최초 규제, 1년간 유예기간 적용

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)은 오는 22일부터 시행된다. AI 관련 법을 가장 먼저 제정한 유럽연합(EU)이 시행 시점을 2027년으로 미루면서, 한국은 세계 최초로 AI법을 시행하는 국가가 됐다.

AI기본법은 국가 차원의 AI 정책 거버넌스를 구축하는 동시에 산업 진흥과 안전·신뢰 기반 마련을 골자로 한다. 적용 대상은 오픈AI(챗GPT), 구글(제미나이) 등 AI 모델을 개발·운영하는 사업자와 이들 모델을 활용해 API 형태의 서비스를 제공하는 이용사업자다. 해당 서비스를 이용해 이미지나 영상을 생성해 영리 활동에 활용하는 웹툰 작가, 유튜버, 언론 등은 직접적인 규제 대상은 아니다.

규제 체계는 △고영향 AI 규제 △투명성 의무 △안전성 의무 등 세 축으로 구성된다. 이중 고영향 AI는 에너지·의료·교통 등 인간의 생명·신체·기본권에 중대한 영향을 미칠 수 있는 인공지능 시스템을 의미한다. 단순히 특정 산업에 활용된다는 이유만으로 고영향 AI로 분류되지는 않는다. 예를 들어 에너지 분야에서도 전력 공급 핵심 설비에 적용되고, 사람이 개입하지 않는 전자동 환경일 경우에 한해서만 고영향 AI로 판단된다. 현재로서는 고영향 AI에 해당할 가능성이 있는 사례는 자율주행 레벨4 뿐이다.

안전성 의무는 학습량이 거대한 고성능 AI가 사회곳곳에 퍼진 상황에서 사회에 큰 위험을 초래할 위험으로부터 최소한의 안전성을 확보하자는 취지로 마련됐다. 누적 학습량이 10의 26제곱 플롭스 이상이어야 적용 대상이다. 추가적으로 최첨단 AI 무형기술이고, 사회전반에 중대하게 피해를 입힐 가능성이 있어야 한다. 이에 따르면 아직까지 안전성 의무 적용대상은 없다.

정부는 제도의 연착륙을 위해 1년간 계도기간을 운영할 계획이다. 유예기간 동안엔 과태료 등 조치를 하지 않는 것은 물론 신고가 들어더라도 사실 조사에 착수하지 않기로 했다. 대신 지원 데스크를 통해 기업 대상 컨설팅을 제공하고, 현장에서 제기되는 질의를 토대로 모호한 기준을 점진적으로 구체화할 방침이다.

딥페이크 워터마크 필수, 영화는 예외

업계의 관심이 가장 집중된 부분은 투명성 의무다. 투명성 의무는 AI로 생성된 결과물임을 이용자가 인지할 수 있도록 표시하도록 한 규정이다. 예컨대 구글 제미나이에서 이미지를 생성하면 화면 하단에 다이아몬드 형태의 표시가 나타나는 방식이다.

과기부는 적용 범위가 불명확하다는 업계의 문제 제기에 따라 워터마크 표시 기준을 구체화했다. 우선 챗GPT 등 AI 서비스 내부에서 생성물을 이용하는 경우에는 규제 수준이 가장 낮다. 이용자가 이미 AI 서비스를 사용하고 있다는 점을 인지하고 있다고 보기 때문이다. 이 경우 서비스 화면 내 로고 표시만으로도 투명성 의무를 충족할 수 있다.

반면 생성물을 다운로드해 AI 서비스 외부로 반출할 경우 기준이 달라진다. 실제와 혼동될 수 있는 딥페이크 생성물인지, 애니메이션·웹툰 등 가상성이 명확한 일반 생성물인지에 따라 표시 방식이 구분된다.

딥페이크 생성물에는 가시적 워터마크 부착이 원칙이다. 심지섭 과학기술정보통신부 인공지능안전신뢰과 사무관은 20일 기자스터디에서 "딥페이크 생성물은 사회적 부작용 우려가 큰 만큼 이용자가 명확히 인식할 수 있는 방식으로 고지하도록 법에 규정했다"며 "눈에 보이거나 실제로 들을 수 있는 방식으로 표시해야 한다"고 말했다.

특히 영상물의 경우 재생 시간 전체에 걸쳐 워터마크를 표시해야 한다. 특정 구간에만 표시할 경우, 편집된 숏폼 영상 등을 시청하는 이용자가 AI 생성물임을 인지하지 못할 가능성을 고려한 조치다.

다만 영화나 드라마에서 딥페이크 생성물을 활용하는 경우에는 예외가 적용된다. 화면 내 가시적 워터마크 대신 엔딩 크레딧을 통한 1회 고지나 비가시적 워터마크 표시로도 투명성 의무를 이행한 것으로 본다.

일반 생성물의 경우 가시적 워터마크를 달지 않아도 된다. 비가시적 워터마크도 허용된다. 다만 안내 문구나 음성을 통해 최소 한 차례 이상 AI 생성물임을 알리는 조치는 필요하다.

투명성 의무 적용 대상은 국내 약 2000곳으로 추산된다. 최우석 과기부 인공지능안전신뢰지원과장은 "국내 AI 기업은 약 2500곳으로 파악되지만, 실제 제도 적용 대상이 될 활성 사업자는 1800곳 안팎으로 보고 있다"고 말했다.

일각에서 제기되는 '규제가 국내 스타트업 성장을 저해할 수 있다'는 우려에 대해 정부는 글로벌 경쟁력 확보를 위한 필수 단계라는 입장이다.

김경만 과기부 인공지능정책실장은 "해외 빅테크 기업들은 이미 가시적·비가시적 워터마크 기술을 적용해 투명성을 확보하고 있다"며 "국내 기업들도 향후 멀티모달 모델로 발전하고 해외 시장에 진출하기 위해서는 이러한 투명성 확보가 중요한 경쟁력이 될 것"이라고 말했다. 이어 "규제를 위한 규제가 아니라 글로벌 기준에 맞춰 기술력을 끌어올리기 위한 취지"라고 강조했다.

ⓒ비즈니스워치(www.bizwatch.co.kr) - 무단전재 및 재배포금지