세계 첫 AI 기본법 시행 ‘AI 동영상 워터마크 필수’

미국 라스베이거스에서 열린 CES 2026 엔비디아 부스에서 로봇 리치 미니가 사진을 촬영한 뒤 AI를 통해 편집한 이미지를 보여주고 있다. [연합]

대한민국이 22일 세계 최초로 인공지능(AI)의 발전과 신뢰 기반 조성을 위한 ‘AI 기본법’을 전면 시행한다. 앞으로 AI 기술을 활용해 만든 모든 생성물에는 ‘AI 제작물’임을 알리는 이른바 ‘AI 꼬리표’ 부착이 의무화된다.

정부는 1년간 유예기간을 통해, AI 기본법을 산업에 안착시키겠다는 목표지만 글로벌 ‘속도전’이 된 AI 경쟁에서 국내 기업의 발목을 잡는 ‘규제’가 아닌 ‘육성책’이 될 수 있을지 업계가 주목하고 있다.

AI 기본법은 국민의 생명이나 기본권에 영향을 미치는 기술을 ‘고영향 AI’로 분류해 별도의 관리 시스템을 갖추도록 하고, 생성형 AI 콘텐츠에는 식별 표지(워터마크)를 의무화하는 것이 핵심이다.

▶AI 표시, 딥페이크는 필수, 유튜버·웹툰 작가는 제외=과학기술정보통신부는 시행을 앞두고 현장의 혼란을 최소화하기 위해 서비스 유형별 구체적인 이행 지침을 담은 ‘인공지능 투명성 확보 가이드라인’을 전격 공개했다. 과기정통부가 전날 공개한 이번 가이드라인을 보면, 실제 현장에서 운영 중인 AI 제품 및 서비스 유형을 바탕으로 구체적인 표시 기준을 제시한 것이 특징이다.

우선 가이드라인은 투명성 확보 의무를 이행해야 하는 주체를 이용자에게 AI 제품 및 서비스를 직접 제공하는 ‘인공지능사업자’로 명확히 규정했다. 여기에는 구글이나 오픈AI 등 국내 이용자를 대상으로 AI 서비스를 제공하는 해외 사업자도 포함된다.

반면 AI 기술을 단순 업무나 창작의 ‘도구’로 활용하는 이용자는 규제 대상에서 제외했다. 이에 따라 AI를 이용해 영화를 제작하거나 콘텐츠를 만드는 제작사는 AI 제품을 직접 제공하는 사업자가 아니므로 표시 의무를 지지 않게 된다.

투명성 확보 의무의 핵심인 AI 생성물 표시 기준은 생성물이 소비되는 환경에 따라 ‘서비스 내부’와 ‘외부 반출’로 이원화했다. AI 생성물이 서비스 환경 내에서만 제공될 경우에는 사용자 이용 환경(UI)이나 로고 표출 등을 통해 유연하게 표시할 수 있도록 했다.

가령 챗봇 서비스는 이용 전 안내나 화면 내 표기를 인정하며, 게임이나 메타버스는 로그인 시 안내 혹은 캐릭터에 AI임을 표시하는 방식 등을 허용해 기업의 서비스 운영 부담을 줄였다.

반면 AI 생성물이 외부로 반출되는 경우에는 보다 엄격한 기준이 적용된다. 생성된 텍스트, 이미지, 영상 등을 다운로드하거나 공유할 때는 가시·가청적 워터마크를 적용해 사람이 명확히 인식할 수 있도록 하거나, 기계 판독이 가능한 메타데이터 등의 기술적 조치를 병행해야 한다.

특히 실제와 구분하기 어려운 가상의 생성물인 딥페이크의 경우, 이용자의 혼란을 방지하기 위해 장소와 관계없이 사람이 명확하게 인식할 수 있는 표시를 반드시 하도록 명시했다.

▶정부 “규제” 아닌 “육성” 강조=AI 기본법이 자칫 AI 속도전에서 국내 기업의 ‘발목’을 잡는 규제가 될 수 있다는 우려를 의식한 듯, 정부는 ‘육성과 지원’을 강조했다.

특히 정부는 업계 반발을 의식해 쟁점이던 ‘고영향 AI’ 지정 방식도 정부 승인제가 아닌 기업의 ‘자율 규제’ 방식을 택했다.

정부가 제시한 고영향은 에너지와 먹는 물, 의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공서비스, 교육 등 10개 영역이다. 정부는 규제 대상을 ‘사람의 개입 없는 레벨 4 자율주행’ 수준이나 초거대 AI로 한정하며 “현재 기준에 도달한 모델은 사실상 없다”고 선을 그었다.

이에 따라 생명·신체·기본권에 영향을 미치는 10여 개 분야에 대해 기업 스스로 고영향 여부를 판단하고 기록을 보관하도록 했다. 기업의 자율성을 보장하되, 사고 발생 시 책임 소재를 따질 근거만 남겨두겠다는 취지다. AI 사업자가 해당 여부를 잘 모르겠다면 과기정통부에 확인을 요청할 수 있다.

정부는 처벌 등도 1년 간의 유예기간을 갖기로 했다. AI 기본법상 의무를 위반하면 정부는 시정 명령과 최대 3000만원의 과태료를 부과할 수 있다. 그러나 정부는 바로 처벌하지 않고 최소 1년 이상의 유예 기간을 두고 계도에 주력하기로 했다. 정부는 계도 기간 업계와 긴밀히 소통해 제도가 안착되도록 지원하겠다는 입장이다. 박세정·박혜림 기자