[뉴스웍스=정희진 기자] 국민은행만의 자체 AI 거버넌스가 수립됐다. 이를 통해 국민은행은 AI 기술 활용의 모든 과정에 신뢰성과 투명성을 확보할 예정이다.

13일 국민은행은 인공지능(AI) 기술 활용을 위해 AI 거버넌스를 수립했다고 밝혔다.

AI 거버넌스란 AI 서비스의 신뢰성과 투명성을 확보하고 윤리적·법적 책임을 이행하기 위한 관리 체계다. 국민은행은 AI 활용 증가로 발생할 수 있는 리스크를 관리하기 위해 2022년부터 AI 거버넌스 수립을 자체적으로 준비했다.

국민은행의 AI 거버넌스는 AI 기술이 활용되는 모든 과정에서 신뢰성과 투명성을 확보하는 것을 목표로 ▲AI 윤리기준 및 조직문화 ▲위험평가 프레임워크 ▲생애주기별 위험관리정책 ▲금융소비자 보호 등 4가지 핵심 요소로 구성됐다.

'AI 윤리기준'은 안전하고 신뢰할 수 있는 AI 도입 및 활용을 위해 모든 임직원이 준수해야 할 기본 원칙이다. 이에 모든 임직원은 정기적으로 AI 윤리교육을 받고, AI 개발자는 윤리적 기준과 책임의 중요성을 강조한 별도의 개발 가이드 교육을 받는다.

위험평가 프레임워크는 AI 서비스가 가진 잠재 위험을 사전에 식별하고 관리하는 체계다. AI 서비스의 위험등급을 허용불가·고위험·중위험·저위험 등 4단계로 분류해, 높은 위험 등급으로 분류된 AI 서비스에는 보다 강화된 관리 방안을 적용한다. 

AI 서비스의 생애주기를 반영한 위험관리 프로세스도 수립했다. AI 서비스 모든 단계에서 ▲위험요소 검토 ▲데이터 신뢰성 및 편향 점검 ▲모델 성능·공정성 평가 ▲정기 모니터링 및 개선을 통해 안전하고 윤리적인 AI 서비스를 구현한다.

금융소비자 보호 내용 또한 AI 거버넌스에 포함됐다. AI 활용 사실 고지와 거부 권리 보장, 설명 의무와 민원 및 피해구제 절차 마련이 그 내용이다.

국민은행은 AI 거버넌스 원칙을 뒷받침하는 최고의사결정 기구로 'AI 윤리위원회'를 설치했다. AI 윤리위원회는 고위험 서비스 승인, 윤리기준 및 위험관리 정책 수립 등 AI의 윤리적 활용을 위한 전략 수립 및 의사결정 등의 역할을 수행한다.

국민은행 관계자는 "AI 거버넌스는 지속 가능한 AI 기술 도입과 금융소비자 보호를 중점으로 수립됐다"며 "AI 거버넌스를 통해 금융 혁신을 선도하는 AI 활용 모범 사례를 만들어 가겠다"고 밝혔다.