[AI기본법] ① '세계 최초' 전면 시행…독 될까 약 될까

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안 본회의 통과 (서울=연합뉴스) 신현우 기자 = 30일 국회 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안이 통과되고 있다. 2025.12.30 nowwego@yna.co.kr

(서울=연합뉴스) 조성미 기자 = 우리나라가 오는 22일 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)을 시행하며 전 세계에서 AI 규제법을 전면 시행하는 첫 번째 국가가 된다.

AI법을 만든 것은 유럽연합(EU)이 앞섰지만, EU가 단계적 시행을 선택하면서 전면적인 시행에서는 한국이 앞선 셈이 됐다.

EU는 주된 규제 대상인 '고위험 AI'에 대한 법규를 올해 8월부터 적용할 방침인데, 작년 말 EU 집행위원회가 규제 완화안을 담은 '디지털 간소화 방안'을 발표하면서 이마저도 2027년 말로 늦출 것이라는 예상이 나온다.

각국이 전략적 핵심 자산으로 AI를 규정하고 앞다퉈 국가적인 지원을 쏟아붓는 상황에서 우리나라가 AI 규제법 전면 시행에 앞서나가는 데 대한 비판의 목소리가 여전하다.

반면 AI의 발전 속도에 비해 역기능을 바로잡을 수 있는 규범 체계의 발전은 더디다는 점에서 우리나라가 AI법의 취지를 살려 무난하게 안착시킨다면 포용적 AI의 선도국이 될 수도 있는 시험대에 선 상황이다.

◇ 고영향 AI 안전성 확보 의무화…1년 이상 계도 기간

AI 기본법은 과학기술정보통신부 장관이 AI 경쟁력 강화를 위해 3년마다 '인공지능 기본계획'을 수립하도록 했다.

전 정부에서 유명무실하다는 비판을 받았던 국가인공지능위원회의 거버넌스 실효성을 확보했고 AI의 위험성을 연구하고 평가하는 AI 안전연구소 설립을 법제화했다.

정부는 기업의 부담을 줄이기 위해 규제를 최소화하고 예측 가능성을 높여 AI 기본법을 산업 진흥의 도구로 삼겠다는 입장이다.

다만, AI로 인한 딥페이크물 범람, 가짜 정보 홍수에 따른 여론 호도, 인간의 생명과 기본권 등 고차원적 영역이 AI에 의해 무분별하게 통제될 위험 등을 막겠다는 법 제정 취지를 살려야 하므로 '고영향 AI' 개념을 도입했다.

고영향 AI는 안전성 관리 의무와 과태료 부과 책임 등 법적 규제가 직접적으로 주어지는 대상이라 업계의 관심이 특히 컸다.

의료, 에너지, 채용, 대출 심사 등 국민의 생명이나 권리에 큰 영향을 주는 분야의 AI를 고영향 AI라고 정의하고 해당 영역과 관련되는 AI 사업자는 사람이 관리하는 체계를 만드는 한편 안전성 확보 조치를 자발적으로 마련하도록 했다.

AI 기본법은 AI가 내린 결정이 어떤 추론 과정을 거친 것인지 설명 가능성 의무도 만들었다.

자율주행차의 경우 사람 운전자가 개입하는 현재 기술 수준의 레벨3는 고영향 AI에 해당하지 않지만 차가 스스로 운전하는 레벨4부터는 고영향 AI에 속하게 된다.

인공지능기본법 하위법령의 문제점과 대안은 (서울=연합뉴스) 서명곤 기자 = 8일 서울 종로구 참여연대에서 참여연대, 민주사회를위한변호사모임(민변) 등이 '인공지능기본법 시행령안 등 하위법령의 문제점과 대안' 기자설명회에서 김하나 민변 디지털정보위원장이 발언을 하고 있다. 2025.12.8 seephoto@yna.co.kr

문서, 이미지, 영상 등을 만드는 생성형 AI에는 이용자가 AI 제작물임을 알 수 있도록 가시적·비가시적 워터마크 부착 등의 표시 의무를 뒀다. AI를 활용하는 콘텐츠 업계에서 반대가 심한 부분이다.

AI 기본법상 의무 대상은 AI 모델 개발사업자와 AI 설루션 등 서비스를 제공하는 이용사업자로 나뉘며, 생성형 AI 결과물을 이용한 사업자나 AI의 영향을 받는 이용자 등은 법 적용 대상에 포함되지 않는다.

해외 빅테크의 경우 ▲ 전년도 글로벌 매출액 1조 원 이상 ▲ 국내 AI 서비스 매출 100억 원 이상 ▲ 국내 일평균 이용자 100만 명 이상 조건에 하나라도 해당하면 국내 대리인을 두도록 했다. 오픈AI와 구글 정도가 현재로선 이에 해당한다.

AI 기본법상 의무를 위반하면 최대 3천만원의 과태료가 부과된다. 다만, 정부는 AI 산업 진흥을 저해하지 않기 위해 1년 이상 계도 기간을 운영한다는 방침이다.

◇ AI 스타트업 "규제 과도" vs "AI 길라잡이 필수"

AI 기본법 시행을 가장 걱정하는 쪽은 AI 모델·서비스를 개발하는 스타트업 업계다.

대형 정보기술(IT) 회사는 AI 기본법 시행에 대비한 로펌 고용이나 사내 변호사 활용이 쉽지만, 자본력이 빠듯한 스타트업 업계로서는 여력이 부족할 수밖에 없기 때문이다.

스타트업얼라이언스가 지난해 말 국내 AI 스타트업 101개 사를 대상으로 조사한 결과에 따르면 98%가 사실상 AI 기본법 시행에 대비한 실질적 대응체계를 갖추지 못했다고 응답한 바 있다.

정부가 AI 기본법 위반에 대한 과학기술정보통신부 장관의 사실조사권 집행을 최소화하고 과태료 부과 등을 1년 이상 계도 기간을 두고 천천히 시행하겠다고 밝혔지만, 정부에 사실조사권이 있다는 사실 자체로 AI 개발이 위축될 수 있다고 우려하고 있다.

AI 스타트업 관계자는 "중대재해처벌법 등에서 소규모 업체에 대한 유예 기간을 추가로 두었듯이 AI 기본법에서도 벤처·스타트업 기업에 대한 배려가 이뤄져야 한다"고 강조했다.

과기정통부 관계자는 "AI 기본법 운용 취지는 업계 '벌주기'가 아닌 AI와 관련한 길라잡이를 만들려는 것"이라고 말했다.

불확실성이 컸던 AI 규제 환경에 확실성을 부여한 것이 AI 기본법 제정의 취지여서 궁극적으로 AI 업계에 도움이 될 것이라는 낙관이다.

발언하는 배경훈 과기정통부 장관 (서울=연합뉴스) 김주성 기자 = 배경훈 부총리 겸 과학기술정보통신부 장관이 24일 서울 여의도 국회에서 열린 과학기술정보방송통신위원회 전체회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 개정안 등 법안 통과 후 발언하고 있다. 2025.11.24 utzza@yna.co.kr

한편, AI가 국방·의료 등 국민의 기본권, 생명권과 직결되는 분야에서의 빈번한 활용이 예상되는 만큼 '블랙박스'와도 같은 AI 모델의 투명성 의무가 더 강화돼야 한다는 목소리도 있다.

오픈소스 활용이 AI 모델 개발에서 보편화된 상황에서 국내 정보의 해외 유출이나 변칙적인 사이버 침해 위협을 막는 방법이 AI 기본법안에 충분히 반영되지 않았다는 지적에서다.

AI 기본법이 규제 일변도로 흐르는 데 대한 부담이 커진다면 개인정보보호법,정보통신망법 등 기존 법제와 연계를 통해 AI라는 도구를 악용한 새로운 형태의 권리 침해를 막을 방안도 시급히 마련돼야 한다는 이야기다.

csm@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>