진위 모호한 AI 생성물엔 맨눈으로 볼 수 있는 워터마크 부착해야

AI 기본법 시행령 입법예고... 계도기간 1년
딥페이크 아니면 기계 판독 워터마크 가능
고영향 AI 기준에 맞는 우리 기업 아직 없어
한국 진출 빅테크들 국내 대리인 지정 의무

게티이미지뱅크

진위를 판단하기 어려운 딥페이크 같은 인공지능(AI) 생성물에는 앞으로 '이용자가 맨눈으로도 식별할 수 있는' 워터마크를 부착해야 한다. AI를 활용했다는 사실을 누구나 알아챌 수 있거나 내부 업무 용도로만 사용되는 생성물은 의무 대상에서 제외된다.

12일 과학기술정보통신부는 이런 내용이 담긴 'AI 기본법 시행령' 제정안을 이날부터 다음 달 22일까지 40일간 입법예고한다고 밝혔다. 지난달 열린 국정감사에서 "누가 보더라도 AI 생성물임을 알 수 있어야 한다"는 지적이 제기되자 초안보다 AI 생성물 표시 기준을 한층 강화한 것이다.

기본법에선 실제와 구분이 어려운 결과물을 딥페이크로 규정하고 있다. 제정안은 실제와 명확히 구분되는, 딥페이크 아닌 일반적인 AI 생성물도 AI 활용 사실을 명시하도록 했다. 단 기계만 판독할 수 있는 워터마크도 허용함으로써 딥페이크보다 기준을 완화했다. 이는 "가시적 워터마크가 품질을 떨어뜨릴 수 있다"는 콘텐츠 제작업계의 우려를 반영한 조치로 풀이된다. 예를 들어 애니메이션이나 게임용 AI 콘텐츠는 일반 생성물로 분류되기 때문에 눈에는 보이지 않고 기계로만 확인 가능한 표시를 삽입하면 된다.

업계의 관심이 큰 '고영향 AI' 여부는 사용 영역, 기본권에 미치는 위험의 영향, 중대성, 빈도 등을 종합적으로 고려해 판단한다. 사업자가 정부에 고영향 AI인지 확인을 요청하면 30일 안에 결과를 알 수 있으며, 필요하면 심사 기간이 최대 60일까지 연장된다. 안정성을 확보해야 하는 고성능 AI는 '10의 26제곱 부동소수점 연산 이상인 시스템'으로 규정했다. 이를 적용하면 국내에는 아직 규제 대상이 없다. 향후 이런 고성능 AI를 개발·운영하는 사업자는 위험 식별·평가·완화 절차를 문서화해 필요할 때 감독기관에 제출할 의무가 있다.

해외 빅테크의 책임 이행을 강화하는 조항도 구체화했다. 국내에서 AI 서비스를 제공하는 기업 중 △전년도 매출액이 1조 원 이상 △AI 서비스 부문 매출액이 100억 원 이상 △국내 일평균 이용자 수 100만 명 이상의 조건을 충족하면 국내 대리인을 반드시 지정해야 한다. 구글, 오픈AI 등 해외 주요 기업들이 다수 해당되며, 이 기준에 미치지 않더라도 AI 서비스 관련 사고가 발생할 경우 일시적으로 대리인 지정 의무가 적용된다.

정부는 국내 AI 산업 성장을 고려해 진흥에 무게를 두고 규제를 최소화하는 데 집중했다는 입장이다. 법 시행 초기 혼란을 막고 업계에 준비 기간을 제공하기 위해 과태료 계도 기간도 최소 1년 이상 운영할 예정이다. 배경훈 부총리 겸 과기정보통부 장관은 "AI 3대 강국 지위를 확고히 하기 위한 제도적 초석이 될 것"이라며 "입법 예고 기간 현장 의견을 수렴해 AI 산업 발전과 안전·신뢰 기반 조성이라는 취지를 반영하겠다"고 말했다.

김태연 기자 tykim@hankookilbo.com