"AI 유해정보 어떻게 막을까"…이용자 안전장치 구축한다

(서울=뉴스1) 이민주 기자 = 최근 인공지능(AI) 서비스가 확산하면서 불법·유해정보 노출 위험이 커지자 정부와 업계가 이용자 보호를 위한 안전장치 마련을 위한 논의를 시작했다.

방송미디어통신위원회는 27일 서울에서 정부, 산업계, 학계 등과 '인공지능서비스 이용자보호 민관협의회 2차 회의'를 개최했다.

회의는 인공지능서비스 불법·유해정보 대응을 위한 기술적 조치 동향 등을 논의하기 위해 마련됐다.

2차 회의에서는 김경훈 카카오(035720) 인공지능 안전(AI Safety) 리더가 발제를 맡아 인공지능서비스 불법·유해정보 대응을 위한 가드레일 시스템 현황에 대해 발표했다.

그는 국내 최초 한국어 환경에 특화된 오픈소스 기반으로 카카오가 자체 개발한 인공지능 안정성 검증을 위한 가드레일 모델인 '카나나 세이프카드'(Kanana Safeguard)를 직접 소개하고 사업자의 자율적 안전조치 고도화 방향 및 생태계 협력 방안 등에 대해 공유했다.

카나나 세이프가드는 이용자의 입력이나 AI가 생성한 답변을 실시간으로 점검해 혐오·괴롭힘·성적 콘텐츠·범죄 등 유해 요소를 탐지하는 AI 안전장치다. 한국어와 한국 문화의 맥락을 반영한 데이터로 학습한 것이 특징이다.

이어 이성엽 민관협의회 위원이 주재한 종합토론에서는 인공지능서비스 내 불법·유해정보 노출 위험이 커진 가운데 사업자의 자율적 안전조치 활성화를 위한 민관 협력 방안 등에 대해 심도 있는 논의가 이어졌다.

신영규 방미통위 방송통신이용자정책국장은 "윤리적으로 신뢰할 수 없는 인공지능 기술은 사회적 불신을 초래해 결국 인공지능 산업 전체의 성장을 가로막을 수 있다. 기술 진흥과 이용자 보호를 위한 기술적 안전조치는 반드시 동반되어야 한다"며 "오늘 논의된 내용을 바탕으로 법과 기술, 제도 등 종합적 지원 방안을 마련해 국민이 안심하고 신뢰할 수 있는 인공지능 이용 환경을 만드는 데 최선을 다하겠다"고 말했다.

한편 방미통위는 2021년부터 '지능정보사회 이용자 보호 민관협의회'를 운영해 왔으며 2024년부터는 인공지능 환경 변화에 대응하기 위해 '인공지능서비스 이용자 보호 민관협의회'로 확대 개편했다.

올해 5월에는 정부, 산업계, 법조계, 학계, 시민단체 등 각계 전문가 35명으로 구성된 민관협의회 2기를 출범하고 불법·유해정보로부터 아동·청소년 보호를 위한 기술적 제도적 방안 등을 공유하며 관련 정책 방안 등을 심도있게 논의하고 있다.

minju@news1.kr