AI기본법에 'AI 생성 표시 의무' 담기나…규제 강화에 업계 당혹

26일 오후 서울 여의도 국회에서 열린 제420회국회(임시회) 제1차 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(AI기본법)이 재적 300인 중 재석 264인, 찬성 260인, 반대 1인, 기권 3인으로 통과되고 있다. 2024.12.26/뉴스1 ⓒ News1 안은나 기자

(서울=뉴스1) 신은빈 기자 = 내년 1월 시행되는 '인공지능(AI) 기본법'이 모든 AI 생성물에 사람이 식별할 수 있는 표시를 하도록 의무화하는 내용을 담을 가능성이 나온다. 시행령 제정을 목전에 두고 다소 강화된 규제 방향이 거론되자 정보기술(IT) 업계는 촉각을 곤두세우고 있다.

14일 IT 업계에 따르면 과학기술정보통신부는 8일 국내외 기업을 대상으로 AI 기본법 투명성 규제 관련 비공개 간담회를 열고 업계의 의견을 모았다. 현장에는 네이버(035420)와 카카오(035720) 등 플랫폼 기업을 포함한 국내외 AI 기업이 참석한 것으로 알려졌다.

이날 간담회에서는 AI 생성물에 사람이 인식할 수 있는 표시를 적용해 AI로 제작했음을 의무적으로 고지하도록 하는 방안이 거론됐다. 과기정통부는 영상물은 물론 이미지와 텍스트 등 모든 AI 생성물에 사람이 인식할 수 있는 표시를 해야 한다고 설명한 것으로 전해졌다.

업계는 이 방안이 영상 전후로 AI 생성물임을 알리는 단순 고지 수준을 넘어, 생성물 전체 분량에 표시 의무를 적용하도록 하는 규정이라고 본다. 사실상 표시 의무 규제를 강화했다는 입장이다.

ⓒ News1 윤주희 디자이너

앞서 정부는 시행령에서 AI 활용의 투명성과 안정성을 확보하기 위한 의무를 규정했다.

생성형·고영향 AI 이용자에게는 사전고지와 가시적 결과물 표시(워터마크) 의무를 시행령으로 부여한다. 약관과 사용자 인터페이스(UI)를 통한 사전고지와 비가시적 워터마크도 인정하기로 했다.

업계에서는 정부가 AI 생성물에 가시적·비가시적 워터마크를 모두 적용하도록 하면서, 법안을 보수적으로 해석하려는 움직임을 보인다는 해석이 나온다.

당초 정부는 규제보다 진흥에 무게를 두고 AI 기본법 하위법령으로 필요최소한의 규제사항만 규정하겠다는 방침을 제시했기 때문이다. 정부는 AI 활용의 안정성을 위해 고영향 AI에는 관련 의무를 부여하겠다고 밝혔다.

IT 업계 관계자는 "정부가 AI 기본법은 규제를 최소화하는 방향으로 제정을 추진하겠다고 했는데, 법 시행까지 1개월을 앞둔 시점에 사실상 규제 강화 기조를 보여 당혹스럽다"고 전했다.

과학기술정보통신부 /뉴스1

과기정통부는 22일까지 대국민 의견수렴을 통해 AI 기본법 시행령 제정안 입법예고를 진행할 예정이다. 간담회에서 논의된 표시 의무 관련 고시와 AI 투명성 가이드라인도 내년 1월 시행 전까지 확정한다.

배경훈 과기정통부 장관은 "AI 기본법 시행령 제정안 입법예고 기간 동안 현장의 다양한 의견을 수렴해 AI 산업 발전과 안전·신뢰 기반 조성이라는 입법취지를 시행령에 잘 반영할 수 있도록 철저히 준비하겠다"고 말했다.

한편 정부는 AI 기술을 악용한 허위·과장 광고와 딥페이크 피해를 막기 위해 'AI 생성물 표시제'를 도입하는 등 표시 의무 강화에 힘을 쏟고 있다.

정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 확정했다.

앞으로 AI 생성물을 제작·편집해서 게시하는 직접 정보 제공자는 해당 생성물을 AI로 만들었다는 사실을 표시해야 한다. 플랫폼사 등 기업은 직접 정보 제공자가 표시 의무를 준수하는지 관리해야 한다.

bean@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지. <용어설명> ■ 고영향 AI 사람의 생명·안전·기본권에 중대한 영향을 미치는 인공지능. 기존에 '고위험 AI'로 규율하던 것을 대체해 부정적 인식을 피하면서도 책임 있는 사용을 요구하려는 취지다. 고영향 AI를 제공하는 사업자는 이용자에게 고영향 AI 활용 사실을 미리 알려야 한다.