AI 규제 속도 내는 금융권, ‘기존 모형’ 관리 사각지대 남았다

▷여신심사·신용평가·FDS까지 AI 확산…검증 체계는 뒤처져
▷AI 중심 규제만으론 한계…기존 금융모형까지 통합 관리 필요

생성형 AI(제미나이)의 도움을 받아 시각화하고 기자가 최종 검토 및 확인해 제작한 그래픽입니다. 그래픽에 포함된 데이터와 내용은 기자가 직접 취재한 결과물입니다.

[위즈경제] 류으뜸 기자 =금융권의 인공지능 활용이 여신심사와 신용평가, 이상거래 탐지 등 핵심 업무로 확산하고 있지만, 금융회사가 오래전부터 써온 기존 금융모형까지 포괄하는 관리 체계는 아직 미흡하다는 지적이 나온다.

 

8일 금융업계에 따르면 주요 금융회사들은 AI를 단순 상담 챗봇을 넘어 신용평가, 여신심사, 이상거래탐지시스템, 맞춤형 금융상품 추천, 로보어드바이저 등으로 넓혀 쓰고 있다. 최근에는 기업대출 심사 과정에서 기업 재무정보와 산업 동향, 거래 흐름 등을 분석하는 데 AI를 활용하려는 시도도 이어지고 있다. 

 

금융당국도 금융권의 AI 전환, 이른바 AX 확산을 뒷받침하기 위해 제도 완화에 나섰다. 금융위원회는 최근 고성능 AI 관련 금융권 보안위협 대응 간담회를 열고 보안 목적의 AI 활용에 대해 망분리 규제를 한시적으로 완화하기로 했다. 

 

일정 수준 이상의 보안 역량을 갖춘 금융회사가 고성능 AI를 활용한 취약점 테스트와 보안 SaaS 솔루션 도입 등을 할 수 있도록 비조치의견서 발급 절차를 거쳐 1년간 규제를 풀겠다는 방침이다.

 

◇AI 확산 속도 못 따라가는 검증 체계

 

문제는 AI 활용을 뒷받침하는 제도 완화가 속도를 내는 반면, 이를 검증하고 통제할 금융권 내부 관리 체계는 충분히 촘촘하지 않다는 점이다. AI는 여신심사와 신용평가처럼 소비자 권익에 직접 영향을 주는 업무로 들어오고 있다. 

 

이상거래 탐지와 위험관리 업무에서는 금융회사 건전성과도 맞닿아 있다. 판단 과정이 불투명하거나 검증 절차가 부족하면 소비자 피해와 금융회사 손실로 이어질 수 있다.

 

그러나 국내에는 AI 이외의 모형에도 일반적으로 적용되는 모형위험관리 가이드라인이 아직 도입되지 않은 상태다. 모형위험관리는 모형의 개발과 사용 전 검증, 내부 승인, 사후 모니터링, 독립 부서 검증 등을 하나의 절차로 묶어 관리하는 체계다.

 

연태훈 한국금융연구원 선임연구위원은 "국내에 이미 도입됐거나 도입 예정인 AI 규제체계에 비해 모형위험관리 체계가 더 광범위하고 구체적이며 완결성을 갖는 구조"라고 평가했다.

 

금융권 내부에서도 AI 활용 확대와 규제 완화를 병행하려면 기존 모형까지 포함한 검증 체계와 내부통제 장치를 함께 강화해야 한다는 목소리가 나온다.

 

한 금융권 관계자는 “AI 모델만 별도로 관리해서는 실제 금융회사의 위험을 다 보기 어렵다”며 “신용평가나 리스크 산정에 쓰이는 기존 모형도 의사결정에 큰 영향을 주는 만큼 AI와 비AI 모형을 함께 검증하는 기준이 필요하다”고 말했다.

 

또 다른 금융권 관계자는 “망분리 규제 완화로 보안 목적의 AI 활용 여지가 커지는 것은 긍정적”이라면서도 “AI 활용 범위가 넓어질수록 어떤 데이터가 들어가고 어떤 결과가 나오는지 점검하는 내부 통제 절차도 함께 강화돼야 한다”고 말했다.

 

◇규제 완화와 위험관리 병행해야

 

전문가들은 금융권 AI 규제가 기술 도입을 허용하는 데 그쳐서는 안 된다고 지적한다. AI 활용 범위가 넓어지는 만큼 책임 소재와 검증 절차를 명확히 하고, AI와 기존 금융모형을 함께 관리하는 체계를 마련해야 한다는 것이다.

 

연 선임연구위원은 "제도 완화만 앞서고 검증 체계가 뒤따르지 못하면 금융소비자 보호와 금융회사 건전성에 빈틈이 생길 수 있다"며 "금융권 AI 규제가 실효성을 갖기 위해서는 AI 기본법과 금융 AI 가이드라인, 모형위험관리 체계를 함께 엮는 촘촘한 접근이 필요하다"고 밝혔다.