“설계도 없이 마천루 지으라고?”…기본 안된 AI기본법 논란

━

시행 한달 앞두고 대혼란

AI 기본법은 98.48%의 찬성률로 2024년 12월 국회 본회의를 통과했다. [뉴스1]

“설계 청사진도 안 나왔는데 마천루를 지으라는 것 같아요.”

다음 달 22일 시행을 앞둔 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(이하 ‘AI 기본법’)을 두고 한 인터넷 기업 관계자는 이같이 토로했다.

AI 산업의 체계적인 육성과 위험 관리 취지로 제정된 AI 기본법 시행까지 한 달밖에 남지 않았지만, 법의 직접적인 영향권 안에 있는 산업 현장은 여전히 혼란스럽다. 업계에서는 특히 ‘사람의 생명·안전·기본권에 중대한 영향 또는 위험을 초래할 우려가 있는 경우’라고 규정돼 있는 ‘고영향 AI’에 대한 정의가 모호하다고 지적한다. AI 제품·서비스를 제공하는 사업자는 법 제33조에 따라 해당 기술이 ‘고영향 AI’에 해당하는지 사전에 검토해야 한다. 고영향 AI로 분류되면 사전 검·인증 및 위험관리방안 수립 등 추가적인 의무가 발생한다.

정주연 스타트업얼라이언스 선임전문위원은 “의료·교육 등 스타트업들이 진출한 영역 상당수가 고영향 AI로 해석될 여지가 많은 분야”라며 “법이 시행되면 기업들이 문제 소지가 있는 영역은 사업 검토 단계부터 배제하는 등 리스크 회피에 나설 가능성이 크다”고 말했다. 최근 스타트업얼라이언스가 국내 AI 스타트업 101곳을 조사한 결과, “(AI 기본법) 대응 계획을 세우고 준비 중”이라고 응답한 기업은 2%에 불과했다.

박경민 기자

정부에 고영향 AI 여부를 확인 요청할 수 있다는 조항도 문제로 제기된다. 국내 한 AI 스타트업 대표는 “AI 서비스는 고정된 제품이 아니라 계속 업데이트 된다”면서 “그때마다 행정 절차를 거쳐야 하면 스타트업 입장에선 감당하기 어려운 부담”이라고 말했다. 규모가 큰 기업들도 예외는 아니다. 익명을 요청한 글로벌 플랫폼 사업자는 “AI 생태계는 파트너사와 고객이 얽힌 복잡한 구조여서 계약서·약관 등 컴플라이언스(법규·내부 규정 준수 체계)를 통해 책임 관계를 세밀하게 정리해야 하는데, 법 기준이 구체적이지 않아 어떻게 준비해야 할지 난감하다”고 말했다.

정부는 AI 기본법에 따른 과태료 부과를 최소 1년 간 유예해 부작용을 줄이겠다는 입장이다. 하지만 기업들은 ‘불법 사업자’로 낙인찍힐 수 있다는 점을 더 걱정한다. 업계 관계자는 “신고·민원이나 사실 조사 가능성만으로도 기업의 사업 판단과 운영을 위축시킬 수 있다”고 지적했다.

이성엽 고려대 기술경영전문대학원 교수(기술법정책센터장)는 “제도적 기반이 갖춰지지 않은 상태에서 규제 먼저 적용하는 것은 현실적으로 어렵다”며 “고의나 중과실로 중대한 AI 위험이 발생하지 않은 경우라면, 과실(사실) 조사부터 규제 적용까지 전반적으로 유예하는 접근이 필요하다”고 제언했다.

☞AI 기본법=인공지능(AI)의 발전과 신뢰 기반 조성에 필요한 기본 사항을 규정한 법률. AI 기술 개발 및 창업 지원 등 산업 육성 방안과 함께 인간 기본권에 막대한 영향을 주는 ‘고영향 AI’ 사전 고지 의무, AI 생성 콘텐트는 출처가 AI임을 밝히도록 한 표시 의무 조항 등 각종 규제책이 담겨 있다. 다음 달 22일부터 이 법이 시행되면 한국은 전 세계 최초로 AI 관련 법을 전면 시행하는 국가가 된다.

어환희 기자

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지