배경훈 부총리 "한국 AI, 신뢰성이 글로벌 경쟁력"

(판교=뉴스1) 나연준 기자 = 배경훈 부총리 겸 과학기술정보통신부 장관은 한국의 인공지능(AI)이 글로벌 시장에서 경쟁력을 확보하기 위해서는 무엇보다도 '안전성'이 뒷받침되어야 한다고 강조했다.

배 부총리는 23일 AI안전연구소에서 열린 'AI 안전 관련 산학연 전문가 간담회'에서 "대한민국이 가장 신뢰할 수 있는 AI를 만든다는 국제적 인지도를 쌓아야 한다"고 말했다.

배 부총리는 "우리나라가 만드는 모델이 전 세계적으로 활발히 쓰이지 않는데 우리도 글로벌 수준의 AI 기술력을 보여줄 타이밍"이라며 "이럴 때 한국 AI 모델은 '성능도 좋은데 신뢰할 수 있다'는 것을 만들면 국가 경쟁력이 될 것"이라고 했다.

배 부총리는 AI안전연구소 중심으로 외부에서 신뢰할 수 있는 평가, 인증제도를 구축해야 한다고 밝혔다.

배 부총리는 "대한민국에서 만든 AI 서비스는 세계적으로 신뢰성을 보여줄 수 있는 평가, 인증제도를 만들어야 한다"며 "(인증을 받는 것이) 의무는 아니어도 AI안전연구소의 평가, 인증을 받으면 신뢰할 수 있는 서비스라는 것을 보여주는 역할을 해야 한다"고 설명했다.

기업들도 AI안전연구소가 서비스와 고객 사이에서 안전성을 어느 정도 보장해 주는 가교 역할을 해줘야 한다고 공감했다.

김태윤 SK텔레콤 파운데이션 모델 담당은 "안전 대응은 결국 서비스와 고객 간의 신뢰와 관련된 문제다. 가이드 없이 기업이 임의로 선택하기 어렵다"며 "이 정도 서비스는 AI안전연구소에서 인증했다. 국가 기준을 만족했으니 큰 위험 없이 출시할 수 있겠다는 등 역할을 해주면 좋겠다"고 말했다.

김민재 NC소프트 AI CTO는 "업계마다 필요한 안전 레벨이 다르고 도메인 별로도 다르다"며 "AI안전연구소에서 따로 선도적으로 해주면 좋겠다는 생각"이라고 했다.

인증, 가이드라인을 구축할 때 국제에서 통용될 수 있는 기준을 만들어야 한다는 목소리도 있었다.

이재호 서울시립대 인공지능학과 교수는 "안전 기준을 국내에서 아무리 만들어도 국제적으로 통용되지 않으면 어려움으로 작용할 것"이라며 "국제적 기준 마련에 우리나라도 선제적으로 참여하는 등 외교적 노력이 병행되어야 글로벌 시장 진입에도 도움이 될 것"이라고 말했다.

AI의 발전 속도를 보안 가이드라인이 따라가기 어렵기 때문에 문제 발생 후 대응에 초점을 맞춰야 한다는 의견도 나왔다.

최대선 숭실대 AI안전성연구센터장은 "기업에서는 서비스의 취약점을 공개하는 것이 우려가 될 수 있겠지만, 적극적으로 공개해 문제점을 빨리 보완할 수 있는 체계를 만드는 것이 필요하다"며 "이런 부분이 인증, 가이드라인보다 더 중요하다"고 강조했다.

배 부총리는 간담회를 마무리하며 "정부도 책임감 있게 AI 시대를 준비하는 데 적극 노력하겠다"며 "(올해 내에) 모두가 공감할 만한 국가 AI 안전 생태계 종합계획을 발표할 수 있도록 하겠다"고 말했다.

yjra@news1.kr