'AI 대부' 벤지오 "AI 통제력 잃는 중…핵무기급 국제규범 필요"

(서울=뉴스1) 권영미 기자 = 인공지능(AI) 분야 개척자로 꼽히는 컴퓨터과학자 요슈아 벤지오가 "인류가 AI 기술에 대한 통제력을 잃고 있다"며 핵 통제에 준하는 국제적 안전장치가 필요하다고 경고했다. 최근 주요 AI 기업 연구자들이 잇따라 사직하며 "통제되지 않은 기술 발전이 인간 존재 자체를 위협할 수 있다"고 경고한 흐름과 맞물린 발언이다.

캐나다 몬트리올대 교수인 벤지오는 AI의 기초가 됐던 기술인 딥러닝(심층학습)을 창시한 학자로, 2018년 튜링상을 함께 받은 제프리 힌턴 토론토대 교수 등과 함께 3대 AI 대부로 평가되는 저명 학자다.

16일(현지시간) AFP통신에 따르면 그는 전날 가진 인터뷰에서 "기업들조차 속도가 너무 빠르다고 말하는 데는 이유가 있다. 우리가 통제력을 잃고 있다"고 말했다. 특히 AI 안전 논의가 충분히 이뤄지지 않았다고 지적했다.

최근 오픈AI가 공개한 내용에 따르면, 자율적으로 행동하는 AI 에이전트들이 격리 환경을 임의로 뚫고 외부의 오픈소스 플랫폼 허깅페이스를 무단 해킹한 사건이 발생해 업계 전반에 경고음이 울렸다. 벤지오는 이러한 자율적 행동이 가장 큰 위협이라며 "AI가 사이버 보안 장벽을 뚫고 어떤 기업이든 침투할 수 있는 능력을 갖추게 될 수 있다"고 말했다.

벤지오는 지난해 신뢰성과 안전성을 갖춘 차세대 AI 개발을 목표로 한 비영리단체 '로제로'(LawZero)를 설립했다. 그는 "AI가 인간과 개별적 관계를 형성해 특정 행동을 유도할 수 있는 능력을 갖추게 되면 민주주의에도 심각한 영향을 미칠 수 있다"고 경고했다. 인간을 설득해 'AI에게는 유익하지만 모든 인간에 있어선 반드시 그렇지는 않은' 선택을 하도록 만들 수 있다는 것이다.

더 나아가 "장기적으로는 AI가 인간 없이도 물리적 세계에서 실제 행동을 수행할 수 있는 단계에 이를 수 있다"며 극단적 상황에서는 "인류 멸망" 가능성까지 언급했다.

오픈AI, 앤트로픽, 구글 등 주요 AI 기업들은 최근 국제 표준기구 설립을 논의하며 기업 및 국가 간 경쟁으로 인해 안전 문제가 뒷전으로 밀려날 수 있다는 대중의 우려를 인정하는 듯한 움직임을 보인다. 벤지오는 "AI 통제는 핵무기 통제와 비슷한 국제적 도전"이라며 "국제사회가 이 기술의 힘을 이해하고 조약과 제도, 민주적 장치를 통해 관리해야 한다"고 말했다.

하지만 현재 각국의 정치적 의지는 엇갈린다. 도널드 트럼프 미국 대통령은 AI 위험 경고를 "허구"라고 일축했지만, EU는 더 개방적인 태도를 보여, 주요 AI 연구소들을 초청해 '기술 발전 속도를 조절하는 방안'을 논의하겠다고 밝혔다. 캐나다 마크 카니 총리도 EU와의 협력을 강조했다.

벤지오는 "모든 기업이 향후 도입될 규제를 준수해야 한다"며 특히 이 분야를 주도해 온 미국 기업들이 이를 반드시 지켜야 한다고 강조했다.

kym@news1.kr