인권위, AI기본법 시행령 보완 권고…"실질적 인권 보호 담아달라"

국가인권위원회(인권위)가 '인공지능 기본법' 시행을 앞두고 시행령안을 보완해야 한다고 말했다./사진=뉴시스.

국가인권위원회(인권위)가 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(인공지능 기본법) 시행을 앞두고 인권을 실질적으로 보완하도록 시행령을 보완해야 한다고 권고했다.

인권위는 내년 1월22일 시행을 앞둔 인공지능 기본법 시행령을 입법예고한 과학기술정보통신부 장관에게 "인공지능의 개발, 이용 전 과정에서 인권을 실질적으로 보호할 수 있는 법적·제도적 기반을 함께 마련해 시행령안을 보완해야 한다"라고 21일 밝혔다.

인권위는 고영향 인공지능 영역의 구체화, 영향 대상 보호 공백 해소, 고성능 인공지능 안전성 하향 조정 등 8가지 사항에 대해 보완이 필요하다고 봤다.

구체적으로 인공지능 기본법 2조는 대통령령으로 '고영향 인공지능'의 영역을 정하도록 했지만, 정작 시행령안에는 관련 규정이 빠졌다며 "EU(유럽연합) AI 부속서 1·3을 참고해 고영향 인공지능 영역을 시행령에 명확히 담아야 한다"라고 권고했다.

또 금지 대상 인공지능에 관한 법적 규정이 마련되기 전까진 EU AI법 5조를 참고해 잠재의식 조작 등 인간의 존엄성을 침해할 우려가 있는 인공지능을 시행령상 '고영향 인공지능'에 포함해 관리해야 한다고 말했다.

인공지능 기본법 31·34조엔 인공지능 사업자에 채용회사·병원·금융기관 등 이용자에 대한 보호조치 책무가 부여됐지만, 가이드라인엔 구직자·환자·대출 신청자 등 영향을 받는 당사자 등에 대한 보호조치가 법적 공백 상태라며 보완해야 한다고 했다.

인권위는 인공지능 기본법은 국방·국가안보 목적에만 개발된 인공지능만 법 적용을 제외하도록 했지만, 시행령은 '이중 용도 업무'를 포함해 위임범위를 벗어날 우려가 있다고 봤다. 이에 법 적용 제외 대상 지정은 국가인공지능 위원회의 심의를 거쳐야 한다고 권고했다.

이 외에도 △인공지능 안전성 의무 적용 기준 하향 △고영향 인공지능 안전성 관련 문서 보관 기간 연장 △신규 출시·기능 변경 전 영향 평가 의무화 및 국가기관의 자료 제출 요구 근거 마련 △국가인공지능 위원회에 인권 전문가 참여 확대 등이 필요하다고 밝혔다.

인권위는 "정부가 인공지능 전환을 속도감 있게 추진하며 국가경쟁력과 삶의 질 향상을 도모하고 있지만, 오류·편향된 인공지능 판단이 의사결정에 활용되면 인간의 존엄과 평등권, 사생활의 자유 등 기본권을 침해할 위험이 있다"라고 지적했다. 그러면서 "향후 인공지능 관련 법·정책 수립 과정에서 인권 보호가 충분히 반영되길 기대한다"라고 밝혔다.

박상혁 기자 rafandy@mt.co.kr

Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.