AI안전연구소, 오픈AI와 AI 모델 안전 확보 맞손

(서울=뉴스1) 이기범 기자 = 인공지능(AI)안전연구소가 오픈AI와 AI 모델 안전 확보를 위해 협력한다.

과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 AI안전연구소와 오픈AI 간 '고위험 분야 AI 안전 협력 강화를 위한 업무협약(MOU)'을 체결했다고 밝혔다.

오픈AI가 각국 AI안전연구소와 MOU를 체결한 건 미국, 영국, 일본에 이어 이번이 네 번째다.

이번 협약은 지난해 10월 과기정통부와 오픈AI 간 체결한 MOU의 연장선이다. 올해 두 차례 류제명 과기정통부 제2차관과 오픈AI 고위관계자와의 면담을 통해 논의된 AI 안전 협력 방안을 구체화하는 과정에서 이뤄졌다.

양측은 고위험 분야별 안전 평가 방법론과 벤치마크에 관한 지식과 모범 사례를 공유하기로 했다. 또 한국어와 한국의 사회·맥락을 반영한 평가 체계 개발을 위한 기술 정보 교환과 함께 국제적으로 적용 가능한 AI 안전 평가 체계 마련을 위해 지속해서 협력하기로 했다.

과기정통부 관계자는 "이번 협약은 오픈AI와 협력 체계를 구축해 프런티어급 AI 모델을 평가하고, AI 안전 평가 역량을 확보할 계기가 될 것"이라고 설명했다.

김명주 AI안전연구소 소장은 "AI가 국가 핵심 인프라와 안보에 미치는 영향이 커질수록 고위험 분야에 대한 엄밀한 안전 평가는 선택이 아닌 필수가 되고 있다"며 "이번 협약을 통해 AI안전연구소는 오픈AI와 함께 최첨단 AI의 위험을 과학적으로 검증하고, 국제적으로 통용되는 평가 체계를 만드는 데 기여하겠다"고 말했다.

이상현 오픈AI 아시아태평양 지역 정책 총괄은 "한국은 AI 기술의 활용과 혁신이 빠르게 이루어지고 있는 중요한 나라"라며 "이번 협력을 통해 고위험 분야 AI 안전성 평가에 대한 지식과 모범 사례를 공유하고, 신뢰할 수 있는 AI 개발과 안전한 이용 환경 조성에 함께 기여하게 되어 뜻깊게 생각한다"고 말했다.

한편 과기정통부는 지난달 26일 오픈AI와 AI 보안 위협 대응을 위한 고위급 간담회를 열고 오픈AI가 운영 중인 정부·기관용 신뢰 기반 접근 프로그램(GTAC) 참여를 공식화했다. GTAC 참여 기관은 'GPT 5.5-사이버' 등 오픈AI의 최신 고성능 AI 모델 접근 권한을 얻을 수 있다.

Ktiger@news1.kr