금융권 AI 위험관리 거버넌스 구축…초고위험 AI 출시 재검토

(서울=뉴스1) 전준우 기자 = 금융감독원이 금융권 인공지능(AI) 위험관리 거버넌스 구축에 나선다. 서비스 위험 수준에 따라 차등화된 통제·관리를 적용, 초고위험 AI 시스템은 출시 여부를 재검토해야 한다.

금융감독원은 15일 이런 내용이 담긴 '금융 분야 AI 위험관리 프레임워크'(AI RMF)를 마련해 금융회사 스스로 위험을 관리할 수 있는 구조적 기반을 제시한다고 밝혔다.

금융위와 금감원이 지난해 12월 발표한 '인공지능 대전환(AX)'의 일환으로, AI 가이드라인에 포함된 금융 AI 7대 원칙 중 '거버넌스 원칙'을 구체화한 내용이다.

AI RMF는 법적 강제력이 없는 가이드라인 형태의 자발적 지침으로, 각 회사 여건에 따라 강화·완화 또는 선택 적용이 가능하다.

금융회사는 AI 위험관리 등을 위한 의사결정기구(AI 윤리위원회, AI 위험관리위원회) 및 전담 조직을 구성하고, 관련 내규를 마련하는 등 거버넌스 체계를 구축해야 한다.

특히 위원장은 CEO가 AI와 관련된 사업계획, 전략, 위험 등을 명확히 인식할 수 있도록 CEO에게 정기적으로 보고해야 한다.

금융 및 AI 관련 법규 준수 의무를 부과하고, 최종 의사결정 책임을 임직원이 지도록 내규화하게 된다.

또 표준화된 매뉴얼을 통해 AI 도입·활용 전 프로세스를 관리하고, 부서 간 역할 및 책임을 명확화해 잠재 위험에 대응해야 한다.

금융회사는 AI 위험의 체계적인 인식·측정·관리 등을 위해 위험기반 접근방법(Risk-based approach)의 종합 평가 체계를 구성하게 된다.

위험 인식·측정→위험 경감→잔여위험 평가→위험등급 산정 등 종합적·체계적 평가를 통해 AI 서비스별 위험을 분류한다. '대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가' 등 AI기본법상 고영향 AI에 대해서는 위험점수에 따른 등급 분류와 관계없이 고위험 서비스로 분류한다.

금융회사는 위험 수준별 차등화된 통제·관리를 수행하고, 금융안정성 훼손 또는 소비자 권익 침해 우려가 있다고 AI 의사결정기구가 판단하는 경우 등 '초고위험 AI'에 대해 출시 여부 재검토 등 위험통제를 위한 제반 절차를 이행해야 한다.

금감원은 업권별 협회 등을 통해 금융권에 AI RMF(안)을 배포하고, 설명회·간담회 등을 통해 충분한 의견수렴을 거친 후 1분기 중 최종안을 확정·시행할 예정이다.

junoo5683@news1.kr