22일부터 AI 기본법 시행…'세계 최초의 AI 규제' 오명 씻을까

과기정통부, AI 개발 사업자에 투명성·안전성 확보 의무
'고영향 AI'는 10개 영역으로 분류…지원데스크 따로 두고 기업 Q&A 전담

AI 산업 진흥 기반을 조성하기 위한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)이 오는 22일부터 시행된다.

과학기술정보통신부(이하 과기정통부)는 국가 AI 경쟁력을 높이고, 안전하고 신뢰할 수 있는 AI 활용 기반 조성을 위한 AI 기본법이 지난 2024년 12월 여·야 합의를 거쳐 국회를 통과함에 따라 22일부터 법이 시행된다고 안내했다.

AI 기본법은 국가 AI 컨트롤 타워인 '국가인공지능전략위원회'의 설치 근거를 마련했다. AI 발전을 위한 R&D(연구개발) 학습용 데이터 구축, AI 도입·활용 지원, 창업 지원, AI 융합 촉진, 전문인력 확보, AI 데이터센터 구축 지원 등 세부 기준과 절차도 구체화했다.

AI 산업 진흥에 방점을 두면서 필요한 최소한의 규제도 도입했다. 건전한 AI 활용 문화를 위해 '투명성', '안전성' 확보 의무를 만든 것이 대표적이다.

투명성 확보 의무는 생성형 AI 결과물에 대해 '워터마크' 등 AI 생성물임을 표시하도록 의무화한 것이다. 딥페이크물로 인한 피해를 막고자 도입됐다.

안전성 확보 의무는 학습에 사용된 누적 연산량이 10의 26승 이상이며, 최첨단 기술을 적용하고, 광범위하게 중대한 영향을 미칠 수 있는 AI 대상 모니터링을 의무화한 것이다. 다만, 국내 AI 사업자 중에는 대상이 없다.

가장 논란이 많았던 '고영향 AI'에 대한 기준도 명확히 했다. 국민의 삶에 큰 영향을 미칠 에너지(전력), 먹는물, 의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공서비스, 교육 등 10개 영역에 도입하는 AI를 '고영향 AI'로 전제하고, 안전성·신뢰성 확보 조치를 하도록 의무화했다. 해당 분야 AI 사업자는 스스로 고영향 AI인지 판단해 인력 관리·감독, 이용자 보호 방안 등을 수립해야 한다.

다만, 중소·스타트업의 경우 고영향 AI에 대해 스스로 판단하기 어려울 수 있어 'AI기본법 지원데스크'를 따로 두고 기업들의 법 이행 준비를 지원하기로 했다. AI 기본법 하위법령 정비단에 참여했던 법률 전문가와 AI 전문가들이 자문할 예정이다.

해당 법안은 1년 이상의 계도 기간을 둘 예정이다. 계도기간 이후에 법 위반 시 과태료는 최대 3000만원이다. 또 내달부터 '제도개선 연구반'을 운영하고 산업계, 시민사회, 학계 등 이해관계자의 의견을 청취할 예정이다.

과기정통부 관계자는 "AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 글로벌 기업들이 도입하고 있는 세계적인 추세"라고 강조하며 "AI 기본법 시행을 통해 법적 불확실성이 제거되고 건강하고 안전한 국내 AI 생태계가 조성되기를 기대한다"고 밝혔다.

김소연 기자 nicksy@mt.co.kr

Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.