AI발 인류 멸망론 증폭…"공포 접고 소행성·핵처럼 위험 낮춰야"

(서울=뉴스1) 장용석 기자 = 인공지능(AI)이 생물무기 개발이나 핵무기 사용, 핵심 인프라 파괴 등을 통해 인류의 생존 자체를 위협할 수 있다는 우려가 다시 커지고 있다.

그러나 전문가들은 AI 역시 무책임한 공포 조장보다는, 소행성 충돌과 팬데믹, 핵전쟁, 기후변화 등 다른 '실존적 위험'과 마찬가지로 실제 발생 가능성과 피해 규모를 냉정하게 따지고 그 위험을 줄이는 식으로 대응해야 한다고 지적한다.

뉴욕타임스(NYT)는 최근 AI 기업 앤트로픽 연구원이 인간이 통제할 수 없는 초지능 AI 개발에 대한 우려를 이유로 업계를 떠난 일을 계기로 AI가 인류를 멸망시킬 가능성을 둘러싼 논쟁이 재점화하고 있다고 10일(현지시간) 보도했다.

AI 위험론자들은 단기적으로 악의적 이용자가 AI를 활용해 바이러스나 독성물질을 개발할 가능성을 우려한다. 장기적으론 AI가 인터넷과 전력망, 금융시장, 군사무기 등 핵심 인프라와 연결될 경우 인간이 예상하지 못한 방식으로 피해를 일으킬 수 있다는 주장도 제기된다.

나아가 미래의 AI가 종료 명령을 거부하거나 인간의 통제에서 벗어날 가능성을 경고하는 목소리가 특히 대중들의 공포심을 자극하고 있다.

다만 현재로선 상당 부분이 가설 단계라는 반론이 만만치 않다. 앨런AI연구소(AI2) 창립 최고경영자(CEO)를 지낸 오런 에치오니 워싱턴대 교수는 "우린 (AI의 위험으로부터) 아직 매우 멀리 떨어져 있다"며 AI가 연구실을 벗어나 수백만 명을 죽일 가능성과 바이러스 유출로 같은 피해를 낼 가능성 중 하나를 걱정해야 한다면 "비교할 것도 없이 바이러스"라고 말했다.

전문가들은 인간이 위험을 받아들이는 방식 자체도 AI 공포를 키우는 요인으로 보고 있다. 제임스 해밋 하버드 위험분석센터장은 "우린 익숙한 위험은 감수하지만 새로운 위험은 두려워한다"고 지적했다.

자동차 사고엔 익숙하면서도 실제로 더 안전한 항공 여행을 더 위험하게 느끼는 것처럼, AI 역시 작동 방식이 충분히 이해되지 않고 인간이 완전히 통제하고 있다는 확신이 부족하기 때문에 사회적 불안이 더 크게 나타날 수 있다는 설명이다.

업계 내부의 '종말론' 구조 자체를 의심하는 시각도 있다. 일부 AI 경영진과 연구자들은 현재의 생성형 AI 기술이 본격적으로 부상하기 전부터 AI가 인류 멸망을 초래할 수 있다고 믿어왔으며, 최근의 기술 발전과 사고 사례를 기존의 위험 서사에 맞춰 해석하는 경향이 있다는 것이다.

AI 보안업체 엠브로이더리의 잭 코먼 창업자 또한 "오늘날 너무 많은 사람이 10년 넘게 이어져 온 이야기의 틀로 모든 사건을 해석한다"고 말했다.

NYT는 "세계적인 AI 연구자 중 상당수는 AI 위험론이 지나치게 과장됐다고 본다"며 특히 "실리콘밸리 밖 과학계에선 AI가 인류 멸망으로 이어질 가능성을 훨씬 낮게 평가하는 경향이 있다"고 전했다.

전문가들은 AI 위험도 다른 실존적 위협과 마찬가지로 발생 가능성과 피해 규모, 대응 가능성을 함께 놓고 평가해야 한다고 강조한다. 인류는 소행성 충돌과 팬데믹, 핵전쟁, 기후변화 등 다양한 위험에 노출돼 있지만 조기경보와 억지, 국제협력 등을 통해 그 위험을 낮춰왔다.

옥스퍼드대 연구자 토비 오드는 이런 상태를 '실존적 안보'(existential security)라고 표현했다. 당장의 위협을 제거하는 데 그치지 않고, 장기적으로도 해당 위험이 인류의 생존을 실질적으로 위협하지 못하도록 제도와 대응 체계를 구축해야 한다는 의미다.

NYT는 "AI를 둘러싼 공포 역시 기술이 실제로 무엇을 할 수 있는지, 인간이 어느 정도까지 이를 통제할 수 있는지를 기준으로 판단할 필요가 있다"고 지적했다.

ys4174@news1.kr