서울시, '서울형 AI 윤리' 제정…AI 행정 전면 적용

(서울=뉴스1) 구진욱 기자 = 서울시가 인공지능(AI) 기술이 행정 전반에 빠르게 확산되는 가운데 시민이 안심하고 신뢰할 수 있는 AI 행정을 구현하기 위한 기준으로 ‘서울형 AI 윤리’를 제정했다.

서울시는 4일 '서울특별시 인공지능 활용 윤리 지침'을 마련하고, 올해 1월부터 공공행정 전 분야에 본격 적용한다고 밝혔다.

이번 지침은 AI를 단순한 행정 효율화 도구가 아닌, 시민의 권리와 안전을 보호하는 공공 수단으로 활용하기 위한 최소 기준을 제도화한 것이 핵심이다.

지침은 공공성·공정성·투명성·책임성·안전성 등 5대 원칙을 중심으로 구성됐다. 서울시는 AI 도입과 활용 과정에서 시민의 복리 증진에 기여하는지를 최우선 기준으로 삼고, 알고리즘 편향으로 인한 차별을 최소화해 누구나 형평성 있게 행정서비스를 이용할 수 있도록 한다는 방침이다.

또 AI가 활용되는 과정과 판단 결과에 대해 시민이 이해할 수 있도록 설명 가능성을 확보하고, AI는 의사결정을 보조하는 수단일 뿐 최종 판단과 책임은 인간이 지도록 명확히 했다. 개인정보 보호와 시스템 보안을 강화해 안전한 AI 행정 환경을 조성하는 내용도 포함됐다.

이번 지침은 2025년 9월 제정된 '서울특별시 인공지능윤리 기반 조성에 관한 조례'에 따른 후속 조치로, 국가 차원의 ‘인공지능기본법’과 행정안전부의 공공부문 인공지능 윤리원칙을 반영하면서도 서울시 행정 환경에 맞게 구체화했다는 설명이다.

적용 대상은 서울시 본청과 자치구는 물론, 투자·출연기관과 위탁·용역 수행기관까지 포함된다. 서울시 권역 외에서 AI가 활용되더라도, 그 결과가 서울시 행정이나 시민 권익에 직접적인 영향을 미치는 경우에는 지침을 적용하도록 했다.

서울시는 지침 마련을 위해 2025년 7월부터 서울AI재단과 함께 '서울형 AI 윤리 지침 타당성 분석 연구'를 진행했으며, 국제인공지능윤리협회 등 전문기관과 협력해 의견을 수렴했다.

향후 기술 발전과 정책 환경 변화에 따라 지침을 지속해서 보완·개선해 나간다는 계획이다.

kjwowen@news1.kr