AI 은행원이 금융상품 판다… 2분기 금융AI 가이드라인 마련

금융당국이 2분기 중에 금융분야 인공지능(AI) 가이드라인 마련을 추진한다. 금융위원회는 이를 위해 AI 은행원의 역량을 시험할 수 있는 테스트베드를 구축하기로 했다.

도규상 금융위 부위원장은 13일 제7차 디지털금융협의회를 열고 이 같은 내용의 연구 용역 결과를 발표했다. 도 부위원장은 "금융권의 AI 활용을 지원하기 위해 오는 6월까지 운영 가이드라인을 제정하고 AI 알고리즘의 유효성을 검증할 수 있는 테스트베드를 만들 것"이라고 말했다.


먼저 AI학습과 교육용 합성데이터를 개발, 금융대화형 AI를 위한 금융말뭉치 데이터와 사기탐지시스템 운영에 필요한 데이터 세트를 대폭 확충한다. 금융말뭉치란 금융상품이나 자문, 판매에 특화된 전문적 내용이 축적된 대화형태의 데이터를 말한다.

또 AI의 불완전판매 등 법적리스크를 해소하기 위해 설명의무 준수가 가능한지 등을 측정하는 'AI 설명 테스트베드'도 구축키로 했다. 아울러 AI은행원의 정확도와 공정성을 확보하기 위한 방안도 마련한다.


도 부위원장은 "AI 기술을 활용한 딥페이크 등 새로운 유형의 금융범죄에 대응하고 소비자 보호를 위한 섭테크 등 AI 감독이슈에도 선제적으로 대비하겠다"며 "2분기 중 금융분야 AI 가이드라인을 준비하고 올해 중 금융업권별 실무지침도 단계적으로 마련할 예정"이라고 밝혔다.

이날 회의에선 금융의 디지털화에 따른 리스크 요인도 점검했다. 회사들이 비슷한 데이터를 활용할 경우 금융권의 행태가 유사해질 가능성과 혁신적 기술 활용 과정에서 금융회사나 소비자가 이해하기 어려운 방식으로 이루어지는 이른바 '블랙박스 리스크'에 대한 우려의 목소리가 나왔다.


또 금융과 비금융 간 융합이 가속화할 경우 비금융 부문의 리스크가 금융권으로 확대될 우려와 신용제공에 따른 레버리지 효과로 신용위험이 전이될 가능성에 대한 문제도 지적됐다. 아울러 핀테크를 통한 금융공급 확대로 '탈은행화'가 가속화되고, 자동화된 여신·투자에 따른 신용공급의 '경기 동행성'이 강화될 우려도 제기됐다.

도 부위원장은 "AI는 인간보다 정보를 빠르고 더 많이 처리해 의사결정 효율성을 높이지만 편향성 등 공정성 이슈가 제기될 수 있어 양자가 조화를 이루도록 운영 가이드라인을 만들겠다"고 말했다.


한편 금융위는 앞으로 디지털금융협의회를 ▲플랫폼·오픈뱅킹 ▲규제혁신 ▲데이터 공유 ▲금융보안 등 4개의 전문 분과회의로 구성해 운영키로 했다.