세계 최초 AI기본법 시행…진흥과 규제 모두 잡을 수 있을까

지난해 11서울 여의도 국회에서 열린 과학기술정보방송통신위원회 전체회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 개정안 등 법안 통과 후 발언하고 있는 배경훈 과기정통부 장관. 사진ㅣ연합뉴스

인더뉴스 이종현 기자ㅣ'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'이 22일부터 시행됩니다.

해당 법령은 딥페이크·허위 사실 유포·인권 침해 등 AI로 인해 발생할 수 있는 폐해를 예방하는 한편, 국내 AI 업계를 정부 차원에서 지원하겠다는 진흥의 의미도 포함하고 있습니다.

김경만 과학기술정보통신부(과기정통부) 인공지능정책실장은 "AI기본법은 산업진흥을 위한 기본법으로 80~90%가 산업진흥에 관한 내용이며 제재 수준은 최소한으로 설정했다"라면서 "AI는 명과 암이 있는 영역인데 잘하기 위해 암을 줄이려고 최소한의 조치를 했다"라고 강조했습니다.

AI 분야에서 부분 규제가 아닌 포괄적 법령을 시행하는 것은 세계 최초인 만큼 AI기본법의 시행이 개화하고 있는 AI 업계에 어떤 영향을 끼칠지 관심이 쏠리고 있습니다.

진흥책과 규제 모두 규정…고영향 AI, 워터마크에 촉각

우선, 과기정통부 장관이 3년마다 AI와 관련 산업의 진흥, 국가 경쟁력 강화를 위해 AI기본계획을 세워 시행하도록 했으며 국가인공지능전략위원회는 법정 위원회로 승격됩니다.

또한, 국가와 지방자치단체가 AI 사업자의 창의 정신을 존중하며 관련 제품·서비스의 연구개발을 지원하도록 했습니다.

이외에도 ▲국가 인공지능 거버넌스 확립 ▲인공지능 R&D 및 학습용데이터의 구축·제공 ▲인공지능 도입·활용 지원 및 실증기반 조성 ▲국제협력 및 해외시장 진출 지원 ▲인공지능집적단지 지정 등이 주요 진흥책 내용입니다.

AI기본법은 포괄적 법령이기에 AI 관련 사안들에 대해서는 다른 법률에 특별한 규정이 있는 경우를 제외하고는 이 법에서 정하는 바에 따르게 됩니다. 이러한 점은 규제 영역에서 보다 민감하게 받아들여진다는 것이 업계의 시선입니다.

업계가 가장 크게 영향을 받을 조항으로는 고영향 AI, AI 사용 표시(워터마크), 설명 가능 의무 등이 대표적입니다.

고영향 AI란 의료, 에너지, 채용, 대출 심사 등 국민의 생명이나 권리에 큰 영향을 주는 분야의 AI를 뜻합니다. 일상 생활과 밀접하고 국가 운영에도 영향을 미칠 수 있는 주요 분야들이기에 AI 사업자가 해당 분야에서 AI를 사용하고자 한다면 AI기본법에 의해 인간 관리 체계 구축 및 안전성 확보를 해야 한다는 것입니다.

정부는 완전 자율주행 단계인 레벨 4 이상 차량 정도만 이에 해당한다고 설명해 현재 기준으로 고영향 AI로 분류되는 AI 기술은 많지 않을 것으로 예상됩니다. 하지만 AI 기술의 발전이 나날이 빨라지는 만큼 시간이 지날수록 고영향 AI로 분류될 기술도 많아질 것이란 것이 업계의 예측입니다.

AI 사용 표시의 경우 고영향 AI나 생성형 AI를 이용한 제품·서비스를 제공하려면 해당 생산물이 AI를 활용해 제작되었거나 운영된다는 사실을 사전 고지하고 표시해야 한다는 조항입니다. 이는 단순 제품·서비스에 그치지 않고 일상에서 소비자들이 접하는 영상, 이미지와 같은 콘텐츠에도 적용되는 조항이기에 가장 체감이 큰 조항일 것으로 전망됩니다.

초창기에는 AI 영상 콘텐츠 등에서의 생성물 표시를 기계만 알아볼 수 있는 메타데이터로 넣는 것도 허용했지만 이러한 방식으로는 딥페이크물을 구별할 수 없다는 우려로 인해 1회 이상 안내 문구, 음성 등으로 알리도록 시행령이 강화됐습니다.

최근 SNS와 숏폼 등에서 만연하는 생성형 AI를 활용한 광고들을 구별할 수 있게 된다는 점에서 긍정적인 시각도 존재하지만 부분적으로만 AI를 활용해도 워터마크를 표시하게 되어 콘텐츠 자체의 가치가 하락할 수 있다는 우려도 나오고 있습니다.

과기정통부는 "AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자 글로벌 주요 기업들이 도입하고 있는 세계적인 추세"라며 최소 1년 이상의 충분한 계도 기간을 운영하겠다고 했습니다.

또한, AI 기본법은 AI에 영향을 받는 이가 AI 최종 결과 도출에 활용된 주요 기준 및 원리 등에 대해 기술적·합리적으로 가능한 범위에서 명확하고 의미 있는 설명을 제공받을 수 있어야 한다고도 규정했습니다.

사실조사·과태료 1년 이상 유예…업계 "법보다 기술 발전이 빨라 우려"

AI기본법은 유럽연합(EU)의 'AI액트(Act)'을 바탕으로 착안된 법령이지만 정작 유럽은 AI 발전에 우선 순위를 두고 법령의 시행을 미룬 상황입니다. 이에 국내 AI 기술 발전이 본격적으로 개화하기도 전에 규제부터 시행한다는 비판도 존재했습니다.

이에 정부는 AI기본법을 위반한 사업장에 대해 장부·서류·자료 등을 조사할 수 있는 사실 조사권을 가지며 최대 과태료 3000만원을 부과할 수 있지만 사실 조사권과 과태료 부과를 1년 이상 유예하겠다고도 밝혔습니다.

이는 법령 시행 초기에 기업들의 혼란을 최소화하고 준비 시간을 마련해 주는 등 비판 여론에서 제기되고 있는 산업 발전 저해를 예방하기 위한 조치로 해석됩니다.

이미지ㅣ챗GPT 생성

다만, 규제의 기준과 범위, 대상 등이 모호해 업계의 혼란은 여전할 것이라는 분석도 나오고 있습니다.

한국인터넷기업협회 관계자는 "AI 생성물 표시 의무의 구체적인 방식, 주체, 범위가 시행령과 고시에 위임되어 있어 사업자 입장에서는 사전에 리스크를 계산하기 어려운 상황"이라고 짚기도 했습니다.

또한, 대기업의 경우 법적 대응 여력이 충분하다 해도 AI 산업 발전의 허리가 되어줄 중소 스타트업의 경우에는 법령 시행 초기에 발생할 수 있는 리스크에 더 취약하다는 문제도 생깁니다.

과기정통부는 하위법령 제정에 참여한 전문가로 구성된 지원 데스크를 운영하는 것을 통해 법적 지원에 나서겠다는 방침입니다.

업계에서는 이러한 혼란이 당분간 이어질 것으로 내다보고 있습니다. 한 업계 관계자는 "AI 기술의 발전이 나날이 빨라지는 가운데 법이 기술의 발전을 따라가거나 담아낼 수 있을지 의문이다"라면서 "법의 개정보다 기술의 발전이 월등히 빠르기에 유예 기간 1년만으로 업계 혼란을 예방하기는 어려울 것"이라 지적했습니다.

Copyright @2013~202６ iN THE NEWS Corp. All rights reserved.