금감원, 금융권 AI 위험관리 가이드라인 마련…“AI 의사결정기구 둬야”

[연합]

[헤럴드경제=김은희 기자] 금융감독원은 금융회사들이 건전하게 인공지능(AI)을 활용할 수 있도록 거버넌스 원칙을 구체화한 금융 분야 AI 위험관리 프레임워크(AI RMF)안을 마련했다고 15일 밝혔다. 업계 의견 수렴 등을 거쳐 1분기 중 최종안을 확정·시행할 계획이다.

AI는 산업·사회 전반에 패러다임 전환을 촉진하며 경제성장의 핵심 동력으로 부상하고 있으나 동시에 새로운 유형의 위험으로 대두되면서 금융소비자의 권익을 침해하거나 금융안정을 훼손할 수 있다는 우려가 커지고 있다.

금감원은 이러한 금융 AI 위험 확산에도 거버넌스와 위험관리는 대체로 미진한 상황이라고 판단해 가이드라인 형태의 자발적 지침을 마련하게 됐다.

금감원이 지난해 4월 금융사를 118곳을 전수조사한 결과 은행 5곳(25%), 보험사 4곳(7.5%), 증권사 1곳(2.7%)만 AI 의사결정기구를 설치했고 약 85%의 금융회사는 AI 윤리 원칙, 위험관리 기준 등을 마련하지 않았다.

프레임워크(안)에 따르면 우선 금융회사는 AI 위험관리 등을 위한 의사결정기구와 전담 조직을 구성하는 등 거버넌스 체계를 구축해야 한다. 의사결정기구의 위원장은 최고경영자(CEO)가 AI와 관련된 사업계획, 전략, 위험 등을 명확히 인식할 수 있도록 CEO에게 정기적으로 보고해야 한다.

위험관리 규정과 지침 등 AI 관련 내규를 수립하고 세부적인 업무매뉴얼도 마련해야 한다.

또한 금융사는 위험을 체계적으로 관리하기 위해서 ‘위험 기반 접근방법(Risk-based approach)’의 종합 평가체계를 구성해야 한다. ‘금융 AI 7대 원칙’ 중 정량적 요소를 토대로 위험평가 체계를 설계하고 원칙 준수를 위한 기본요소를 평가 항목 등에 반영해 AI 서비스별 위험을 분류해야 한다.

다만 AI기본법상 대출 심사 등 개인의 의무·권리에 영향을 미치는 고영향 AI는 등급과 관계없이 고위험 서비스로 분류한다. 금융회사는 위험 수준별로 통제·관리를 수행하고 초고위험 AI의 경우 출시 여부를 재검토하는 등 위험통제를 위한 절차도 이행해야 한다.

금감원 관계자는 “모범사례 전파, 도입회사 실태점검 등을 통해 AI RMF의 거버넌스, 위험관리 및 위험통제 프로세스가 금융회사의 내부통제 체계에 안착할 수 있도록 충실히 지원할 계획”이라고 전했다.