공무원 AI 활용 확산…OECD "전면 도입 전 효과·위험 검증해야"

(서울=뉴스1) 김민수 기자 = 공무원들의 생성형 인공지능(AI) 활용이 공식 관리체계보다 빠르게 확산하면서 전면 도입에 앞서 효과와 위험을 체계적으로 검증해야 한다는 경제협력개발기구(OECD)의 제언이 나왔다.

22일 업계에 따르면 OECD가 지난 20일 공개한 '정부의 생성형 AI 실험: 새롭게 등장하는 지침에서 얻은 교훈' 보고서는 공무원들이 생성형 AI를 업무에 활용하고 있지만, 실무 차원의 감독과 평가체계는 이를 따라가지 못하고 있다고 진단했다.

OECD는 공식 승인이나 감독 없이 생성형 AI를 업무에 이용하는 행태를 '그림자 AI'로 표현했다. 개인적으로 이용하는 외부 AI에 업무 정보를 입력하거나, 생성된 결과를 기관이 파악하지 못한 채 활용하는 경우가 이에 해당할 수 있다. 보고서는 생성형 AI의 빠르고 분산된 확산과 더디게 구축되는 공공 거버넌스 사이에 격차가 벌어지고 있다고 분석했다.

보고서는 호주·캐나다·핀란드·일본·영국·미국·싱가포르 등 14개국의 공공부문 생성형 AI 지침과 관련 연구·사례를 분석했다.

그 결과 각국은 개인정보 보호와 투명성, 인간의 감독 등 책임 있는 AI 활용 원칙을 폭넓게 마련했지만, 실제 실험을 어떻게 설계·운영하고 어떤 기준으로 도입 확대 여부를 결정할지에 관한 구체적인 안내는 부족한 것으로 나타났다.

일부 지침은 선언적인 원칙에 머문 반면 일부 국가는 공무원이 참고할 체크리스트와 업무별 안내서까지 제공했다. OECD는 공통된 운영 도구가 없으면 기관마다 대응 방식이 달라지고 비슷한 시범사업이 반복돼 다른 기관의 성공과 실패에서 배우기 어려워진다고 지적했다.

OECD는 생성형 AI를 전면 도입하기에 앞서 일부 업무에서 먼저 시험하고, 정확도와 비용 절감 효과, 보안 위험 등을 검증한 뒤 활용 범위를 넓혀야 한다고 제안했다.

생성형 AI는 같은 지시에도 서로 다른 결과를 내놓을 수 있어 성능과 위험을 사전에 완전히 파악하기 어렵다. 이에 위험이 낮은 내부 업무부터 시험한 뒤 국민의 권리나 공공서비스에 영향을 주는 민감한 업무로 적용 범위를 단계적으로 확대해야 한다는 설명이다.

현재 각국의 평가는 이용량이나 사용자 만족도 등 단순 지표에 그치는 경우가 많았다. 이 때문에 AI가 실제 업무 성과를 높였는지, 새로운 위험을 만들지는 않았는지, 사업을 확대할 가치가 있는지 판단하기 어렵다고 OECD는 분석했다.

OECD는 실험 성과를 평가할 기준으로 △성능과 입·출력 품질 △예상 효과와 공공가치 △비용·실행 가능성과 기존 업무체계 적용 여부 △사용 편의성과 수용성 △위험 관리와 규정 준수 등 5개 영역을 제시했다. 공통 기준이 없으면 성과가 낮은 실험을 제때 중단하기 어렵고, 효과가 확인된 사업에 예산과 인력을 집중하기도 힘들다는 설명이다.

지난달 발간된 '디지털정부 전망 2026'에서도 OECD 36개국 중 35개국이 정부 업무에 AI를 활용했지만, 예산 절감이나 업무시간 단축, 서비스 품질 개선 등 도입 효과를 측정한 국가는 10개국에 그쳤다.

국내에서도 공공부문 AI를 단계적으로 도입하고 성과를 검증하기 위한 기준이 마련됐다.

행정안전부와 한국지능정보사회진흥원(NIA)이 지난달 공개한 '공공부문 AI 도입·활용 가이드'는 범정부 AI 공통기반을 활용한 서비스 구축 과정을 5단계로 나눴다. AI 서비스 구상, 예산·계획 수립, 이용 계약, 서비스 구현, 운영 단계다.

가이드는 단기간에 성과를 확인할 수 있는 업무에 개념검증(PoC)을 먼저 적용하도록 했다. 이후 성능을 검증하고 보완한 뒤 고부가가치 분야로 활용 범위를 넓히도록 권고했다.

접근 권한과 이용 기록 관리, AI 결과 검증 절차도 사전에 마련하도록 했다. 사람이 최종 판단 과정에 개입하는 체계도 갖추도록 했다.

도입 전에는 정량·정성 성과지표를 설정하도록 했다. 서비스 운영 과정에서는 성능과 이용 현황을 점검하고 최신 데이터를 계속 반영하도록 했다. 사업 단계마다 통과 기준과 중단 기준을 미리 정하라는 내용도 포함됐다.

국내 가이드에는 OECD가 제안한 사전 시험과 성과 측정, 위험 관리 방안이 각각 담겼다. PoC 우선 적용은 전면 도입 전 시험에 해당한다. 정량·정성 성과지표는 AI 도입 효과를 판단하는 기준이며, 접근 권한과 기록 관리, 사람의 개입은 오류와 보안 위험을 줄이기 위한 장치다.

다만 국내 가이드는 성과지표와 사업 중단 기준을 각 기관이 사업 특성에 맞게 정하도록 하고 있다. 향후에는 기관별 시험 결과를 비교할 수 있는 공통 기준과 이를 공유하는 체계를 마련할 필요성도 제기된다. 그래야 비슷한 시범사업의 반복을 줄이고, 효과가 확인된 사업에 예산과 인력을 집중할 수 있다.

kxmxs4104@news1.kr