AI가 당신을 평가한다…신용점수 700점인데 대출 거절된 이유

• 새벽 2시 대출 신청했다가 '급전' 판정…배달앱 사용까지 감시
• "AI 추천 믿었다 2천만원 날렸는데 증권사는 책임 회피"

지난달 서울 마포구에 사는 직장인 김모(34) 씨는 은행 앱으로 전세자금 대출을 신청했다가 황당한 일을 겪었다. 신용점수 700점 후반에 연소득 5천만원, 직장 재직 5년차로 모든 조건이 승인 가능 범위였지만 3일 뒤 "대출 심사 결과, 승인이 어렵습니다"라는 문자만 날아왔다. 하물며 그의 DRS은 정상범위 내였다.

ⓒTech42

은행에 전화하자 상담원은 "AI 심사 시스템에서 종합적으로 판단한 결과"라며 "구체적인 이유는 저희도 알 수 없다"고만 답했다. 김모 씨는 "비록 신용점수가 높다고 생각하고 있지 않지만, 안정적인 소득과 직장이 있고 DSR은 정상 범위였는데 왜 거절됐는지 아무도 설명해주지 않았다"며 "AI가 알아서 했다는 말만 반복됐다"고 토로했다.

■ 보이지 않는 평가, AI는 무엇을 보는가

금융권이 AI 신용평가를 본격 도입하면서 전통적인 신용점수만으로는 설명되지 않는 거절 사례가 속출하고 있다. 전문가들은 AI가 연체 이력, 소득, 재직 기간 같은 기본 항목 외에도 앱 접속 시간대, 배달앱 사용 빈도, 스마트폰 충전 패턴, GPS 이동 경로 등 수백 가지 데이터를 종합해 판단한다고 설명한다.

예컨대 새벽 2~4시에 대출을 신청하면 '급전이 필요한 상황'으로 판단해 리스크 점수가 올라간다. 배달음식 주문이 급증하면 소비 통제력이 약하다고 평가하고, GPS 데이터로 유흥가 출입 빈도를 파악해 재정 불안 가능성을 계산한다. 심지어 SNS 친구 목록의 평균 신용도까지 반영하는 경우도 있다.

문제는 이 모든 과정이 '블랙박스' 안에서 이뤄진다는 점이다. AI가 어떤 데이터를 얼마나 반영했는지, 왜 그런 결론을 내렸는지 알 방법이 없다. 은행 직원조차 AI의 최종 판정 결과만 볼 뿐 그 과정은 들여다볼 수 없다.

■ "AI가 틀려도 책임은 내 몫"

경기도에 사는 박모(47) 씨는 지난해 증권사 로보어드바이저가 추천한 포트폴리오로 2천만원을 투자했다가 6개월 만에 30% 손실을 봤다. 더욱이 주변에서 개미라고 일컷는 직장 동료들은 하나같이 개별 종목으로 수익을 내고 있었으며 같은 시기 코스피 지수는 5천 포인트를 향해 달려가고 있었다. 박씨 역시 다른 개별 상품들은 수익을 냈지만 추천을 받은 포트폴리오는 오히려 손해를 본 것이다. 이에 증권사는 "시장 변동성 때문"이라며 책임을 인정하지 않았다.

박씨는 "AI가 데이터 분석해서 최적 포트폴리오라고 해서 믿고 맡겼는데 결과가 나쁘면 '시장 탓'이라고만 한다"며 "그럼 AI는 왜 쓰는 건지 모르겠다"고 했다. 금융감독원에 따르면 로보어드바이저 관련 민원은 지난해 대비 37% 증가했지만 손실 책임을 명확히 규정한 법은 없다.

또한 몇 년 전 급전이 필요해 은행권 대출을 실행시켰던 박씨는 은행 AI 챗봇이 안내한 대로 중도상환을 시도 했다가 수수료 50만원이 발생한다는 사실을 알게 됐다. 챗봇은 "중도상환 수수료 없음"이라고 답했지만 실제로는 특정 조건에서만 면제되는 내용이었다. 초기 대출을 실행 시킬 때 중도상환 수수료에 대한 해당 부분을 간과했던 것이다. 결국 박씨는 갈수록 높아지는 이자로 인해 수수료를 부담하고 중도 상환을 진행했다.

해외에서는 이미 법적 분쟁이 시작됐다. 캐나다 에어캐나다는 지난해 2월 AI 챗봇이 할인 정책을 잘못 안내한 고객에게 법원 명령으로 배상금을 지급했다. 미국 매사추세츠주는 지난해 7월 학자금 대출 회사에 AI 신용평가 알고리즘이 특정 인종을 차별했다며 250만달러 벌금을 부과했다.

■ 차별하는 알고리즘, 증명할 길 없는 소비자

더 큰 문제는 AI가 학습 과정에서 사회적 편견까지 그대로 흡수한다는 점이다. 미국 리하이대학교 연구에 따르면 AI 대출 심사는 흑인 신청자를 백인보다 평균 1.6% 더 많이 거절했다. 한국에서도 여성 창업자는 남성보다 대출 한도가 평균 15% 낮고, 지방 거주자는 같은 조건이어도 금리가 0.3~0.5%포인트 높다는 조사 결과가 나왔다.

서울의 자영업자 최모(47) 씨는 AI 신용평가 결과에 이의를 제기했지만 은행에서 "시스템이 종합 판단한 것"이라며 재검토 자체를 거부했다. 현행법상 금융사는 AI의 판단 근거를 설명할 의무가 없다. 소비자는 '블랙박스'를 상대로 싸워야 하지만 이길 방법이 거의 없다.

로보어드바이저로 손실을 보면 "시장 변동성 때문"이고, 챗봇이 잘못 안내하면 "참고용일 뿐"이며, AI 신용평가로 거절당하면 "시스템 판단"이라는 답만 돌아온다. 결국 모든 결과의 책임은 이용자가 진다.

ⓒTech42

■ 95% 은행이 AI 쓰지만 소비자 보호는 제로

올해 기준 국내 은행의 95%가 신용평가에 AI를 활용하고, 증권사의 78%가 로보어드바이저를 운영하며, 보험사의 83%가 AI 언더라이팅을 도입했다. 하지만 AI 판단 근거 설명 의무, AI 오류 시 배상 기준, AI 차별 방지 규정은 모두 없다.

금융당국은 지난해 12월 '금융권 AI 활용 지원 방안'을 발표했지만 기업의 자율 관리를 유도하는 가이드라인 수준에 그쳤다. 금융감독원이 올해 1월 도입한 'AI 위험관리 프레임워크' 역시 금융사가 스스로 위험을 관리하도록 권고하는 내용이다. 소비자 권리를 직접 보호하는 강제 규정은 찾아보기 어렵다.

미국과 유럽은 AI 설명 의무를 법제화하는 방향으로 가고 있다. 유럽연합은 'AI법'을 통해 고위험 AI 시스템에 대해 투명성과 설명 가능성을 의무화했고, 미국도 소비자금융보호국이 AI 신용평가에 대한 설명 의무를 강화하는 규정을 검토 중이다.

■ 스스로 지키는 방법

전문가들은 AI 평가 항목을 역이용할 것을 조언한다. 새벽 시간 대출 신청을 피하고 오전 10시에서 오후 3시 사이에 신청하는 것이 유리하다. 배달앱 과도한 사용을 줄이고 통신비와 공과금은 자동이체로 설정해 납부 패턴 안정성을 보여주는 것이 좋다.

AI 챗봇 답변은 100% 신뢰하지 말고 중요한 결정은 반드시 상담원 통화로 확인해야 한다. 챗봇 답변은 캡처해서 보관하면 나중에 분쟁 시 증거 자료로 쓸 수 있다. 로보어드바이저 추천이어도 상품을 직접 검토하고 손실 시 민원 제기 경로를 미리 확인해두는 것이 필요하다.

대출이 거절됐을 때는 "AI 종합 판단"이라는 답변에 만족하지 말고 구체적 이유를 서면으로 요청해야 한다. 답변을 거부하면 금융감독원에 민원을 제기할 수 있다. 금융사가 수집하는 개인정보는 열람 청구가 가능하고 부당한 데이터 사용을 발견하면 삭제를 요구할 수 있다.

■ AI는 더 깊숙이 파고든다

상황은 더 심해질 전망이다. 올해부터는 신한은행과 우리은행 등 AI가 대출 상담원을 완전히 대체하는 시범 사업이 본격적으로 시작된다. 또한 실시간으로 신용점수가 변동하는 시스템도 논의 중이다. 커피 한 잔을 사거나 택시를 타는 소비 패턴이 즉각 점수에 반영될 수 있다는 것이다.

일부 금융사는 스마트워치 데이터를 활용한 건강 리스크 평가도 검토하고 있다. 심박수, 수면 패턴, 운동량 등이 보험료나 대출 금리에 영향을 줄 수 있다는 의미다. 당신의 모든 행동이 '금융 점수'로 환산되는 시대가 다가오고 있다.

AI는 편리하지만 당신을 지켜주지 않는다. 금융사는 AI를 도입해 비용을 줄이고 효율을 높이지만 문제가 생기면 "시스템 판단"이라며 책임을 회피한다. 법과 제도가 마련되기 전까지 소비자는 스스로 알고 스스로 막아야 한다.

김광우 기자

저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지