유엔총장 "AI, 규범보다 빠르게 발전…인류 미래 맡겨선 안 돼"

(서울=뉴스1) 장용석 기자 = 안토니우 구테흐스 유엔 사무총장이 6일(현지시간) 인공지능(AI)을 통제하기 위해 전 세계적으로 조율된 규칙을 마련할 필요가 있다고 밝혔다.

6일(현지시간) AFP·로이터통신에 따르면 구테흐스 총장은 이날 스위스 제네바에서 열린 첫 정부급 'AI 거버넌스 글로벌 대화'에서 AI가 규범·제도가 따라잡기 어려울 정도로 빠르게 발전하고 있다며 이같이 말했다.

그는 "경제를 재편하고, 일의 세계를 바꾸며, 선거를 흔들고, 안보의 균형을 기울일 수 있는 기술이 그것을 만드는 사람들조차 따라잡을 수 없는 속도로 확산하고 있다"며 "혁신엔 안전장치가 필요하다. AI가 강력해지려면 반드시 (사람에) 관리돼야 한다"고 강조했다.

구테흐스 총장은 AI가 이미 세계를 바꾸고 있다며 "문제는 우리가 이 변화를 함께 형성할 것인지, 아니면 변화가 우리를 형성하도록 둘 것인지"라고 말했다.

그는 AI 시스템이 더 이상 명령을 기다리는 도구가 아니라 코드를 작성하고, 온라인에서 활동하며, 점점 더 줄어드는 인간의 감독 아래 선택을 내리고 있다며 "(그러나) 우리 제도는 명령을 따르는 기계를 관리하도록 설계됐다. 결정하는 기계를 다룰 준비는 돼 있지 않다"고 언급하기도 했다.

구테흐스 총장은 AI가 무엇이 진실이고 거짓인지 더 흐리게 만들고 있고, 중요한 과제를 AI에 맡긴 뒤 결과를 맹신하는 경향도 커지고 있다고 우려했다.

그는 사람이 직접 코딩하지 않고 AI에 원하는 결과를 말하면 스스로 실현 가능한 프로그램 코드를 구현해 주는 이른바 '바이브 코딩'에 대해선 "놀라운 일을 해낼 수 있다"고 평가했다. 그러나 그는 "우린 진실이나 인류의 미래를 바이브 코딩할 순 없다"고 말했다.

구테흐스 총장은 AI로부터 아동이 안전해야 한다는 점 또한 강조했다. 그는 "우린 안전성이 입증되기 전엔 아이에게 약을 쓰지 않고, 모든 장난감을 시험한다"며 "그러나 AI는 누구도 그것이 아이들에게 무엇을 할 수 있는지 묻기 전에 이미 아이들의 학습, 우정, 가장 사적인 질문에까지 도달했다"고 지적했다.

그는 기업들이 아동이 접근할 수 있는 AI 시스템의 안전성을 입증하고, 성적 학대엔 무관용 원칙을 적용하도록 하는 'AI 아동 안전 서약'에 참여할 것을 제안했다. 또 그는 AI 시스템이 고통의 징후를 보이는 아동을 실제 인간 지원과 연결해야 한다며 "어떤 아이도 규제 없는 AI의 실험 대상이 돼서는 안 된다"고 말했다.

AI에 따른 피해 가능성을 줄이고 AI를 활용한 규칙 설정 방안을 논의하기 위해 마련된 이번 회의에 참가한 각국 정부와 기술기업, 학계, 시민사회 관계자들은 유엔의 지원을 받는 과학 패널 소속 전문가 40명이 작성한 AI 관련 예비보고서를 검토한다. 패널은 내년에 보다 포괄적인 내용을 담은 보고서를 공개할 계획이다. 'AI 거버넌스 글로벌 대화'의 두 번째 회의는 내년에 미국 뉴욕에서 열릴 예정이다.

ys4174@news1.kr