유엔 패널 "고삐 풀린 AI 발전, 규제공백에 파멸적 피해 우려"

(서울=뉴스1) 이정환 기자 한수민 수습기자 = 인공지능(AI)의 급격한 발전 속도가 정부와 과학계의 대응 속도를 앞서가면서 "파멸적 피해"로 이어질 가능성을 배제할 수 없게 됐다고 1일(현지시간) 유엔 독립 전문가 패널이 경고했다.

로이터통신에 따르면 이날 유엔의 'AI에 관한 독립 국제과학패널'의 예비 보고서는 AI 시스템이 스스로 판단하고 인간을 기만할 정도로 진화해 시스템 통제력을 상실할 위험이 있다고 경고했다.

보고서는 AI 기술이 단기적으로 에너지·데이터 부족으로 성장이 정체될 수 있으나, 시간이 지나면서 단기적으로 현실 세계의 과제를 자율적으로 수행하는 'AI 에이전트'로의 전환이 이뤄질 것으로 전망했다.

AI는 이미 수학과 과학 분야에서 전문가 수준의 추론 능력을 보여주고 있으며 신약과 백신 개발의 시간을 크게 단축하고 있다. AI의 작업 복잡성은 4~7개월마다 두 배로 증가하고 있다.

전문가들은 그러나 이러한 급격한 발전 속도가 AI의 규제 공백으로 이어지고 있다고 지적했다.

AI는 이미 허위 정보와 유해 콘텐츠를 생성하고 확산하는 데 사용되고 있으며 사기, 사이버 공격, 생물학적 위협 등에 악용될 수 있다. 실제로 AI 기업 앤트로픽이 개발한 '미토스' 모델은 범죄자나 국가 차원에서 대규모 사이버 공격에 악용될 수 있다는 우려로 일반 공개가 제한됐다.

보고서는 각국 정책결정자들이 AI 기술의 급격한 발전으로 '딜레마'에 직면했다고 밝혔다. AI를 규제하기 위해선 확실한 근거가 있어야 하는데, 기술 발전 속도가 너무 빨라 규제 근거를 수집하기 어렵기 때문이다.

이러한 상황에서 첨단 AI 모델을 평가하거나 규제할 능력이 부족한 많은 국가들은 자신이 이해하거나 통제할 수 없는 기술에 의존하게 될 수 있다고 보고서는 경고했다.

패널의 공동 의장인 요슈야 벤지오는 "AI 역량이 과학계의 이해 능력과 정부의 적응 능력을 모두 앞지르고 있다"며 "AI의 기만적인 행동에 대한 증거가 늘어나는 상황"이라고 밝혔다. 이어 "현대 과학으로는 AI 스스로 혹은 악의적인 사용자로 인해 파멸적인 피해를 주지 않을 것이라고 보장할 수 없다"고 경고했다.

안토니우 구테흐스 유엔 사무총장은 이날 성명을 통해 "세계는 이해하지 못하는 것을 지배할 수 없다"며 각국 정부에 신속한 행동을 촉구했다.

한편 유엔은 이날 세계 각국의 정부·기업 인사들과 협력해 '선한 AI를 위한 글로벌 위원회'(AI for Good Global Commission)를 창설한다고 발표했다.

폴 카가메 르완다 대통령과 마크 베니오프 세일즈포스 최고경영자(CEO)가 위원회의 공동 의장을 맡는다. 도린 보그단마틴 국제전기통신연합(ITU) 사무총장은 상임부의장을 맡을 예정이다.

jwlee@news1.kr