유엔 사무총장 "AI 무한경쟁, 거대한 재앙 우려…안전장치 필요"

(서울=뉴스1) 장용석 기자 = 안토니우 구테흐스 유엔 사무총장이 인공지능(AI) 발전을 둘러싼 국가 간 경쟁이 적절한 안전장치 없이 진행될 경우 전 세계적 재앙으로 이어질 수 있다며 규제와 국제 공조 강화를 촉구했다.

도널드 트럼프 미국 대통령이 최근 AI 위험을 우려하는 업계 목소리를 일축한 상황에서 다음 주 개막하는 유엔총회를 앞두고 AI 규제를 둘러싼 논쟁이 국제사회의 주요 의제로 부상하는 모습이다.

16일(현지시간) 로이터통신 등에 따르면 구테흐스 사무총장은 이날 뉴욕 유엔본부에서 회견을 열어 "AI 개발 최전선에 있는 이들이 제기하는 우려를 외면해선 안 된다"며 "모든 정부의 첫 번째 책임은 AI의 위협을 포함해 자국민을 보호하는 것"이라고 말했다.

그는 특히 최첨단 AI 개발 능력을 갖춘 국가들이 상호 연락과 정보 교환 체계를 마련하고 일정한 공통 안전장치를 구축해야 한다고 강조했다.

구테흐스 총장은 "그러지 않을 경우 국가와 기업들이 경쟁에서 뒤처지지 않기 위해 안전 기준을 계속 낮추는 상황이 벌어질 수 있다"며 "언젠가 전 세계적 차원의 거대한 재앙(gigantic disaster)으로 이어질 수 있는 '바닥을 향한 경쟁'(race to the bottom)을 피해야 한다"고 경고했다.

유엔은 이날 별도 자료를 통해서도 "AI 개발이 그 위험에 대한 인간의 이해보다 빠르게 진전되고 있다"며 안전장치 마련의 필요성을 강조했다.

유엔은 앞서 2023년 기업인과 정부 관계자, 학자 등 39명으로 구성된 AI 자문기구를 출범시키는 등 글로벌 AI 거버넌스 구축을 추진해 왔다. 유엔 안전보장이사회 역시 다음 주 뉴욕에서 열리는 유엔총회 고위급 주간에 AI 문제를 논의할 가능성이 있다고 외교 소식통들이 전했다. 안보리는 2023년 처음으로 AI 문제를 공식 의제로 다뤘다.

최근 AI 업계에선 앤트로픽 연구원 제이컵 콕슨이 'AI가 인류에 극단적 위험을 초래할 수 있다'는 관계자들의 우려를 전하며 사직한 이후 기술 개발 속도를 조절하고 안전 대책을 강화해야 한다는 목소리가 이어지고 있다.

반면 트럼프 미 행정부는 AI 안전 규제보다 기술 개발과 도입 속도를 높이는 데 정책의 무게를 두고 있다. 트럼프 대통령은 14일 미국엔 AI 기업을 규제하고 위법행위에 책임을 묻기 위한 안전장치가 마련돼 있다며 업계의 관련 우려를 낮게 평가했다. 그는 AI 개발에 대한 지나친 우려가 중국에 이익을 줄 수 있다는 입장도 밝혀왔다.

ys4174@news1.kr