금감원, AI RMF 도입…AI 위험관리 거버넌스 체계 구축

(사진= 연합뉴스)

[뉴스웨이 김다정 기자]

금융감독원이 최근 금융권에 인공지능(AI) 도입이 활발해짐에 따라 '금융분야 AI 위험관리 프레임워크(AI RMF)'를 도입한다.

금감원은 AI 위험관리 등을 위한 의사결정기구와 AI 위험관리 전담 조직을 설치해 금융권의 AI 관련 업무 전반을 통제·관리하겠다고 15일 밝혔다.

업권별 협회 등을 통해 금융권에 AI RMF(안)을 배포하고, 설명회·간담회 등을 통해 충분한 의견수렴을 거친 후 올해 1분기 중 최종안을 확정·시행할 예정이다. AI RMF는 법적 강제력이 없는 가이드라인 형태의 자발적 지침으로, 각 회사 사정에 따라 강화·완화 또는 선택 적용이 가능하다.

최근 금융권에서는 AI 기반의 대고객 서비스를 출시하거나 내부 업무 혁신에 AI를 활용하는 사례가 크게 확대되고 있다. 하지만 동시에 AI의 복잡성, 불투명성, 데이터 의존성 등으로 인한 새로운 유형의 위험이 대두되면서 금융소비자의 권익을 침해하거나 금융안정을 훼손할 수 있다는 우려가 커지고 있다.

특히 금융 분야는 자금 중개라는 본질적 특성상 AI 위험이 산업·사회 전반과 금융소비자에게 큰 영향을 미칠 수 있는 데다, 실시간 거래가 이루어지는 금융시장에서는 AI 오류가 여타 산업에 비해 빠르고 광범위하게 전파되어 시스템 위협으로 발현 가능성이 크다.

그럼에도 금융 AI 위험의 차별적 특성 및 파급력에도 불구하고, 거버넌스 및 위험관리는 대체로 미진한 상황이라는 게 금감원의 지적이다.

실제로 AI 서비스를 개발·활용하는 과정에서 감독당국이 제시한 AI 관련 가이드라인을 적용한 비율은 약 60%로 저조하다.

이에 금감원은 AI 위험관리 등을 위한 의사결정기구(AI 윤리위원회, AI위험관리위원회)를 설치하여 AI 도입·활용에 적극 관여하겠다는 방침이다. 특히 위원장은 최고경영자(CEO)가 AI와 관련된 사업계획, 전략, 위험 등을 명확히 인식할 수 있도록 CEO에게 정기적으로 보고할 계획이다.

이와 함께 AI 도입·개발 추진 조직과 독립된 위험관리 전담 조직을 설치해 AI 관련 업무 전반을 통제·관리한다.

여기서는 AI 위험의 인식·측정·평가 등 위험관리 전반을 통괄하고, 'AI기본법' 등 관련 법규상 각종 의무의 준수 여부를 관리·감독한다. 또 AI 윤리기준을 근간으로 AI 위험관리규정 및 지침 등 AI 관련 내규를 수립하고, 세부적인 업무매뉴얼을 마련할 예정이다.

특히, 금융 및 AI 관련 법규 준수 의무를 부과하고, 최종 의사결정 책임을 임직원이 지도록 내규화하는 한편, 표준화된 매뉴얼을 통해 AI 도입·활용 전 프로세스를 관리하고, 부서 간 역할 및 책임을 명확화해 잠재 위험에 대응할 예정이다.

AI 위험평가에서는 '금융 AI 7대 원칙' 중 정량적 요소를 토대로 위험평가 체계를 설계하고, 원칙 준수를 위한 기본요소를 평가 항목 등에 반영한다. '위험 인식·측정→위험 경감→잔여위험 평가→위험등급 산정' 등 종합적·체계적 평가를 통해 AI 서비스별 위험을 분류한다는 방침이다.

'AI기본법'상 고영향 AI에 대해서는 위험점수에 따른 등급 분류와 관계없이 고위험 서비스로 분류한다.

금감원은 위험평가 세부 절차를 따라 산출한 AI 서비스의 위험등급을 기준으로, 위험별로 차등화된 통제·관리를 수행할 계획이다.

초고위험AI 시스템 등에 대해서는 AI 의사결정기구를 통해 출시 여부를 재검토하고, 모니터링·사후관리, 문서화 및 교육, 감독당국 정보공유 등 위험통제를 위한 제반 절차를 이행한다.

김다정 기자 ddang@newsway.co.kr

저작권자(c)뉴스웨이(www.newsway.co.kr). 무단전재-재배포금지