유엔에 모인 AI 수장들…앤트로픽 CEO "필요하면 개발속도 늦추겠다"

(서울=뉴스1) 권영미 기자 = 23일(현지시간) 뉴욕 유엔안전보장이사회 긴급회의에 출석한 글로벌 인공지능(AI) 기업 최고경영자(CEO)들이 AI 기술의 급격한 발전에 따른 위험성을 경고하며 철저한 안전 검증과 속도 조절의 필요성을 역설했다.

AFP통신에 따르면 오픈AI의 샘 올트먼 CEO는 안보리 연설에서 "지금은 극도로 조심해야 할 시점"이라며, AI 시스템이 더욱 고도화되고 자율화됨에 따라 제도적 통제를 벗어나거나 소수에게 권력이 집중될 수 있다고 경고했다.

이어 그는 "기술적 이점이 크다는 이유만으로 산업계가 과도한 기술적 위험을 감수해서는 안 된다"며 '맹목적 낙관론'과 '파멸론' 사이의 균형 잡힌 '중간 길'을 찾아야 한다고 강조했다.

화상으로 참석한 앤트로픽의 다리오 아모데이 CEO는 "AI를 제대로 관리하지 못하면 인류 전체에 위험이 될 수 있다"고 경고했다.

그러면서 AI 모델이 강력해질수록 더욱 엄격한 안전 기준이 요구됨을 자사가 이해하고 있다고 말했다. 그는 "기술 오남용 방지 능력을 지속해서 개선할 것"이라며, "새로운 AI 기술을 선보일 때마다 안전성을 확실히 담보하기 위해 필요한 만큼 개발 속도를 늦추겠다"고 약속했다.

허깅페이스의 클레망 들랑그 CEO는 최근 자사가 자율형 AI 소프트웨어의 사이버 공격 대상이 되었다고 밝히면서도, 동시에 AI를 방어 수단으로 활용하기도 했다며 "세상에 자신을 지킬 오픈소스 AI가 그 어느 때보다 절실하다"고 덧붙였다.

이날 회의에서 주요 AI 기업 수장들은 통제를 벗어난 AI 위험성에 대응하기 위해 국제 사회의 공조와 글로벌 차원의 규제 및 감독 체계 마련을 거듭 촉구했다.

kym@news1.kr