복지·인허가 AI 판단도 사람이 최종 검토…정부 '공공 AI 윤리기준' 확정

(서울=뉴스1) 구진욱 기자 = 정부가 복지 대상자 선정이나 인허가 등 국민의 권리와 생활에 영향을 미치는 행정 업무에 인공지능(AI)을 활용할 경우 사람이 AI의 판단을 검토하고 개입할 수 있도록 하는 기준을 마련했다.

행정안전부는 공공부문의 AI 도입 확대에 맞춰 이 같은 내용의 '공공부문 인공지능 윤리기준'을 최종 확정했다고 1일 밝혔다.

윤리기준은 행정 혁신 촉진과 국민 신뢰 구축을 목표로 △공공성 △형평성 △투명성 △책임성 △안전성 △프라이버시 보호 등 6대 핵심가치로 구성됐다.

행안부는 지난해 11월 마련한 초안에 대해 관계기관과 학계 전문가 의견을 수렴한 뒤 6대 가치를 실제 업무에 적용할 수 있도록 총 68개의 세부 점검항목을 만들었다.

기관별 AI 활용 정도에 따라 적용할 수 있는 '3단계 자율점검 체계'도 도입한다. 단순 업무에 AI를 활용하는 1단계 '적용', AI가 의사결정을 지원하는 2단계 '응용', 자율적 판단을 기반으로 하는 3단계 '융합'으로 나눠 AI 활용 수준이 높아질수록 점검 수준을 달리하는 방식이다.

특히 책임성 기준에는 AI가 행정 의사결정에 활용되더라도 최종 책임과 통제는 사람에게 있다는 원칙을 담았다.

복지 대상자 선정이나 인허가, 위험 예측 등 국민에게 직접 영향을 미치는 업무에서 AI가 잘못된 판단을 내릴 가능성에 대비해 서비스 기획부터 제공까지 단계별 책임 주체를 명확히 하도록 했다.

AI 판단을 사람이 다시 검토하고 개입할 수 있는 인적 감독 체계를 비롯해 사후관리와 피해구제 체계도 마련하도록 했다.

프라이버시 보호 기준에 따라 공공 AI가 개인정보나 사생활을 침해하지 않도록 보호장치도 갖춰야 한다. 투명성 기준에는 AI 도입과 활용 과정을 공개하도록 하는 내용이 담겼다.

정부는 공공부문 AI 활용을 빠르게 확대하고 있다. 지난해 11월 중앙·지방정부가 행정 내부망에서도 민간 AI를 사용할 수 있는 '범정부 AI 공통기반' 서비스를 도입했고, 올해 1월에는 공공부문의 AI 도입과 안전·신뢰성 확보를 제도화하는 '인공지능 및 데이터 기반 행정 활성화에 관한 법률' 개정안이 국회 본회의를 통과했다. 개정법은 지난 8월 시행됐다.

행안부는 지난 8월 발표한 'AI 민주정부 실현 전략'에서도 공공 AI 윤리기준과 함께 AI 도입 효과와 개인정보 침해 가능성, 책임 소재 등을 검증하는 '공공 AI 영향평가'를 도입하겠다고 밝힌 바 있다.

행안부는 앞으로 공공부문 종사자를 대상으로 윤리기준 교육 프로그램을 운영하고 새롭게 나타나는 AI 윤리 문제를 점검항목에 반영하는 환류 체계도 구축할 계획이다.

윤호중 행안부 장관은 "인공지능 기술이 행정 혁신의 핵심 동력이 되고 있는 만큼 그 밑바탕에는 국민의 기본권을 보호하고 신뢰를 확보하기 위한 윤리적 토대가 반드시 필요하다"며 "공공분야 전반에 AI 윤리가 자연스럽게 자리 잡도록 하겠다"고 말했다.

kjwowen@news1.kr