"업무 처리부터 시민 구조까지" …서울시, AI 활용 범위 넓힌다

(서울=뉴스1) 송송이 기자 = 서울시가 문서 요약이나 정보 검색에 사용되던 인공지능(AI)의 활용 범위를 업무 처리와 한강 구조 지원까지로 확대한다.

AI가 정보를 제공하는 데서 나아가 시의 실제 업무와 현장 대응에 관여하는 사례가 늘면서, AI 판단의 책임성을 어떻게 확보할지도 과제로 떠올랐다.

5일 서울시에 따르면 시는 자체 AI를 행정시스템과 연계하는 '행정지원 AI 에이전트' 구축에 착수했다.

지금까지 자체 AI가 문서를 작성·요약하거나 정보를 찾아주는 역할에 머물렀다면, 앞으로는 직원의 요청을 받아 회의실을 예약하고 결과를 알려주는 등 실제 업무까지 수행하게 된다.

서울시는 직원들이 반복 업무에 쓰던 시간을 줄여 정책 판단과 시민 서비스에 더 집중할 수 있을 것으로 내다봤다.

시는 문서 요약·회의실 예약·제안서평가위원 선정 등 3개 업무에 우선 적용한 뒤 대상을 확대할 계획이다.

AI가 현실 공간에서 직접 대응하는 사례도 등장한다. 서울시는 반포대교에 자살 시도 등 위기 상황에 대응하는 피지컬 AI 시스템을 도입한다.

'2025 소방행정 통계연보'에 따르면 2024년 한강에서 발생한 자살시도는 1272건이다.

다음 달부터 도입될 예정인 '피지컬 AI 선제 감지·자율 대응 시스템'은 비명이나 입수음 등 이상 음원을 감지하고 위치를 특정한다.

감지된 정보는 소방과 CCTV 관제센터, 드론에 동시에 전송되고, 출동한 드론이 구조대상자를 찾아 구명 튜브를 투하한다.

시는 구조대 도착 전 초기 대응을 앞당겨 구조 '골든타임' 확보에 도움이 될 것으로 보고 있다.

다만 AI가 행정 판단에 개입할수록 오류 발생시 책임 소재와 개인정보 보호 문제도 함께 따라온다.

정부도 공공부문 AI 도입 확산에 맞춰 기준을 내놨다. 행정안전부는 지난 1일 AI가 행정에 활용되더라도 최종 책임은 사람에게 있다는 내용 등을 담은 '공공부문 인공지능 윤리기준'을 최종 확정해 발표했다.

AI를 활용하는 공공기관은 개인정보나 사생활이 침해되지 않도록 보호장치도 갖춰야 한다.

또 복지 대상자 선정이나 인허가처럼 국민 생활에 직접 영향을 미치는 업무에서는 AI의 판단을 사람이 다시 확인해야 한다.

서울AI재단도 오는 7일 '서울 AI 윤리·거버넌스 포럼'에서 AI 규제 동향을 공유하고, 안전·법제도·교육 분야 전문가들과 신뢰할 수 있는 AI 활용 방향을 논의할 예정이다.

서울시는 오는 6~8일 열리는 '스마트라이프 위크 2026'에서도 도시정부 AI 정책과 피지컬 AI 사례를 해외 주요 도시들과 공유할 계획이다.

mark834@news1.kr