[뉴스웍스=허운연 기자] 금융권 AI(인공지능) 활용을 활성화하고 AI 기반 금융서비스에 대한 신뢰를 제고하기 위한 가이드라인이 마련됐다.

금융위원회는 8일 도규상 부위원장 주재로 제1차 디지털금융협의회 데이터 분과회의를 열고 '금융분야 AI 가이드라인'을 발표했다.

이번 가이드라인은 금융분야에서의 AI 시스템 개발, 사업화 및 활용과 관련한 기획·설계, 평가·검증, 도입·운영 및 모니터링의 모든 과정에서 신뢰성을 제고해 AI를 활성화하고 금융서비스에 대한 고객신뢰를 확보하는데 기여하는 것을 목적으로 마련됐다.

가이드라인은 AI를 금융거래 및 금융서비스 등에 적용한 모든 금융업권을 대상으로 하되 금융기관은 AI서비스의 특성을 감안해 적용 여부를 자율결정하게 된다.

도규상 부위원장은 이번 가이드라인에서 구현하고자 했던 핵심가치를 '금융산업의 책임성 강조', 'AI 학습용 데이터의 정확성·안전성 확보', 'AI 금융서비스의 투명성·공정성 담보', '금융소비자 권리의 엄격한 보장'으로 제시했다.

도 부위원장은 금융산업의 책임성과 관련해 "AI 기술이 가지는 블랙박스적 특성(AI 기술 고도화 등으로 금융회사가 AI의 내부 처리과정을 완벽하게 알 수 없는 기술적 한계) 등 기술적 이유로 금융회사가 책임을 회피하는 일이 없도록 선제적 위험관리체계를 구축하겠다"며 "금융회사가 AI 금융서비스를 개발·운영함에 있어 발생가능한 위험을 명확히 인지하고 금융서비스 목적에 맞게 위험을 통제하기 위한 전사적 노력을 기울이도록 했다"고 설명했다.

가이드라인에 따라 금융회사 등은 조직이 추구하는 가치와 주된 AI 활용 맥락 등을 고려해 AI 활용에 관한 윤리원칙과 기준을 수립해야 한다. 금융회사 등은 AI 윤리원칙과 기준에 맞는 조직 관리를 위해 AI 윤리위원회를 별도로 설치할 수 있다.

특히 AI 시스템의 전 과정에 걸쳐 AI 활용에 따라 나타날 수 있는 잠재적 위험을 인식·평가하고 이를 관리·최소화하는 방안을 검토하는 등 AI 활용으로 인한 잠재적 위험을 관리하는데 필요한 위험관리정책을 마련해야 한다. 위험관리정책은 소비자 권리보장을 위한 시스템 운영, AI 모델 및 학습데이터의 관리, AI 시스템 관련 문제 발생시 감독당국과의 소통, 회사 내 AI 책임 문화 확산의 촉진 등의 업무 처리에 관한 내용을 포함한다.

또 개인에 대한 부당한 차별 등 개인의 권익와 안전, 자유에 대한 중대한 위험을 초래할 수 있는 서비스(고위험 서비스)에 대해 AI 시스템을 활용하는 경우 적절한 내부통제 활동 및 승인절차를 마련하고 승인 책임자를 지정한다, 승인 책임자는 책임 있는 업무 수행이 가능한 지위로 하되 최고위험관리책임자, 신용정보보호·관리인, 최고정보보호책임자 등 유사업무와 겸직할 수 있다.

한편, 도 부위원장은 'AI학습용 데이터의 정확성·안전성 확보'과 관련해 "AI는 방대한 데이터를 통해 학습하고, 사고하고, 판단하는데 안전하고 효율적인 데이터 관리야 말로 AI 기술자체의 신뢰를 담보할 수 있는 가장 기본적이고도 중요한 과제"라며 "AI 학습데이터의 품질을 엄격히 관리토록 해 편향되지 않은 정확한 데이터가 AI 학습에 활용돼야 한다"고 말했다.

'AI 금융서비스의 투명성과 공정성 담보' 부문에서는 "금융산업은 신뢰기반 산업인 만큼 금융서비스가 합리적이고 공정한 기준에 따라 제공되고 관리된다는 금융소비자의 믿음 없이는 금융산업의 미래는 없다"며 "AI가 내린 신용평가, 대출심사 등의 결과가 우리사회의 일반적이고 건전한 상식과 사회규범에 어긋나는 일이 없어야 할 것"이라고 언급했다.

마지막으로 '엄격한 금융소비자 권리 보장'에 대해서는 "AI 기술 활용에 따른 소통의 어려움 등으로 금융소비자가 자신의 권리를 충분히 행사하지 못하는 일이 없도록 해야 할 것"이라며 "사람에 의한 금융서비스를 제공받을 때처럼 금융소비자가 AI로부터 받고 있는 서비스에 대해 충분한 설명을 듣고 이해할 수 있도록 하면서 이의제기, 정정요구권 등 자신의 권리를 불편함 없이 행사할 수 있도록 해야 한다"고 강조했다.

도 부위원장은 "AI 기술혁신의 과실이 금융소비자에게 돌아가도록 하는 것은 금융권의 협조와 노력없이는 불가능하다"며 "AI 금융서비스가 금융소비자의 편익을 제고하고 지속가능한 금융혁신의 토대가 될 수 있도록 금융권의 많은 관심과 노력을 부탁드린다"고 요청했다.

이어 "정부도 가이드라인 마련 뿐 아니라 금융권이 AI 기술을 수용하는데 필요한 양질의 빅데이터, 테스트베드 등 AI 활성화를 앞당길 수 있는 인프라를 적극 지원하겠다"며 "AI 기술의 발전 등을 반영하지 못한 금융규제가 없는지도 꼼꼼히 점검하고 금융회사의 원활한 AI 금융서비스 제공에 장애가 되지 않도록 조속한 규제 정비에도 힘쓰겠다"고 약속했다.