獨·캐나다 등 20개국 "AI, 인간 통제 아래 둬야"…국제감독 제안

(서울=뉴스1) 장용석 기자 = 독일과 캐나다, 호주 등 20개국 지도자들이 최첨단 인공지능(AI)을 인간 통제 아래 두기 위한 국제 감독체제를 구축하자고 제안했다. 세계 AI 개발을 주도하는 미국과 중국은 이번 선언에 참여하지 않았다.

21일(현지시간) 폴리티코 유럽 등에 따르면 알렉산데르 스투브 핀란드 대통령과 요나스 가르 스퇴레 노르웨이 총리 주도로 이날 발표된 '프런티어 AI 모델 통제를 위한 촉구' 선언에 20개국 지도자 22명이 이름을 올렸다.

유엔총회 고위급 주간에 맞춰 공개된 이번 선언엔 독일과 스페인, 캐나다, 호주, 싱가포르, 튀르키예, 아랍에미리트(UAE), 남아프리카공화국 등의 정상 또는 각료와 우르줄라 폰데어라이엔 유럽연합(EU) 집행위원장이 참여했다.

스투브 대통령 등은 이번 선언에서 "AI가 삶의 질과 과학 발전, 경제 성장에 기여할 잠재력이 크다"면서도 "프런티어 AI 모델이 적절히 관리되지 않을 경우 안전·안보에 심각한 위험을 초래할 수 있다"고 경고했다.

이들은 "AI는 인간의 지시와 감독, 통제 아래 있어야 한다"며 AI 기업에 모델 공개 전 의무적인 안전성 시험과 독립적 평가를 포함한 투명한 안전 프로토콜을 마련할 것을 요구했다. 각국 정부와 지역 기구엔 공통된 안전기준을 조율하고 중대한 AI 안전사고를 공동 보고하는 체계를 구축할 것을 촉구했다.

특히 이들은 유엔 회원국들이 기존 국제기구를 토대로 AI의 위험 기준을 설정하고 검증을 수행할 수 있는 새로운 국제기구 창설을 검토해야 한다고 제안했다. 다만 AI 개발을 일시 중단하거나 속도를 늦추라는 요구는 이번 선언에 포함되지 않았다.

스투브 대통령은 폴리티코와의 인터뷰에서 "개인적으론 국제원자력기구(IAEA)와 비슷한 형태의 AI 감독기관을 유엔 체계 안에 설치하는 방안을 선호한다"고 밝혔다. 다만 그는 "유엔에 회의적인 국가들의 참여까지 끌어내기 위해 구체적인 조직 형태는 열어둘 필요가 있다"고 말했다.

스투브 대통령은 AI가 생물학무기 개발에 활용되거나 AI 에이전트가 사이버 공격을 벌이고, 살상 무기에 AI가 사용되는 상황 등을 감독 강화가 필요한 사례로 꼽았다. 동시에 그는 "질병 퇴치와 생산성 향상 등 AI가 가져올 긍정적 효과가 위험보다 훨씬 클 수 있다"며 개발 자체를 막기 위한 구상은 아니라고 강조했다.

이번 선언엔 미국·중국은 참여하지 않았다. 스투브 대통령은 향후 이들 두 나라까지 논의에 참여하길 희망한다며 "AI 강국인 미국과 중국에도 일정한 안전장치를 마련하는 게 이익"이라고 말했다.

도널드 트럼프 미 대통령과 시진핑 중국 국가주석은 오는 24일 워싱턴에서 정상회담에 임할 예정이다. 양국 정상회담에선 무역, 대만 문제 등과 함께 AI 경쟁·안전 문제도 의제에 오를 것으로 전망된다.

ys4174@news1.kr