中·러 무기 개발에 美 AI 악용…"10년 안에 인류멸망"

(서울=뉴스1) 구경진 기자 = 미사일 궤적 분석부터 방공망 제압, 드론 군집 운용까지. 미국의 첨단 AI가 실제 무기 개발과 군사 작전에 활용된 정황이 잇따라 드러났습니다. 중국과 러시아를 중심으로 AI의 군사적 악용 사례가 구체화되면서 AI 개발 속도를 둘러싼 논쟁이 미국 중간선거의 핵심 쟁점으로 떠오르고 있습니다.

10일(현지시간) 미국 AI 기업 앤트로픽은 중국과 러시아 등에서 자사의 AI 모델 '클로드'가 실제 작전에 악용된 사례를 담은 보고서를 공개했습니다.

보고서에 따르면 중국 측은 클로드를 이용해 대만 방공망을 무력화하는 소프트웨어를 개발한 것으로 드러났습니다. 조기경보 레이더와 패트리엇, 톈궁 미사일 포대, 공군기지와 지휘 벙커 등 대만 내 12개 표적을 넣고 어떤 곳부터 공격해야 할지 우선순위까지 계산한 겁니다.

또 해군용 대어뢰 체계 개발에도 클로드를 활용했습니다. 200쪽이 넘는 기술 제안서를 만들고, 미 해군 기술과 비교한 데 이어 실제 심사를 가정한 모의 검토까지 진행했는데요. 앤트로픽은 이 행위자가 중국 방산업체와 연계된 것으로 판단했습니다.

러시아에서는 클로드를 이용해 여러 대의 FPV 공격드론이 스스로 표적을 고르고 협력해 움직이는 군집 소프트웨어를 개발했습니다. 서방 제재를 피해 중국과 홍콩을 거쳐 군사용 부품을 확보할 우회 경로를 찾는 데도 AI가 활용됐습니다.

최근 친이란 후티 반군이 사우디아라비아의 에너지 인프라 공격을 강화하는 가운데, 후티가 장악한 예멘 북부에서도 클로드가 미사일 개발에 활용된 정황이 나왔습니다. 현지의 한 사용자가 유도 로켓과 사거리 2000km가 넘는 탄도미사일, 극초음속 활공체를 탑재한 미사일 개발에 클로드를 사용한 것으로 확인됐습니다.

문제는 개발사조차 이런 악용을 완전히 막지 못하고 있다는 점입니다. 앤트로픽은 내부 안전장치가 위험한 요청 상당수를 차단했지만 "모두 막지는 못했다"고 인정했는데요. 사용자들이 최종 목적을 숨긴 채 여러 차례 질문을 쪼개면, 개별 요청만으로는 미사일이나 무기 개발에 활용되는지 파악하기 어려웠다는 겁니다.

AI 개발 속도를 둘러싼 미국 정치권의 시각은 정반대로 갈리고 있습니다. 13일 도널드 트럼프 대통령은 "부각하지 말아야 할 일을 부각하는 부정적 세력이 너무 많다"고 비판했습니다. 이어 "우리는 AI에서 중국을 앞서고 있다"며 "AI에서 승리하는 사람이 승자가 된다"고 목소리 높였습니다.

반면 버락 오바마 전 대통령은 민주당에 AI를 차기 핵심 의제로 다뤄야 한다고 촉구했습니다. 오바마는 "AI가 민간 기업의 손에서 너무 빠르게 발전하고 있다"며 "지금 제대로 통제하지 못하면 위험해질 수 있다"고 우려했습니다. 일자리 대체와 사회안전망 문제는 물론 AI 개발 속도 자체를 늦추는 방안까지 공개적으로 논의해야 한다는 겁니다.

앤트로픽을 떠난 연구원 제이컵 콕슨은 "(앤트로픽과 오픈 AI가) 우리의 목숨을 걸고 도박하고 있다"며 "AI 개발자들 사이에서는 이 기술이 10년 안에 인류를 멸망시킬 수 있다는 우려가 실제로 공유되고 있다"고 강하게 경고했습니다.

비약적으로 발전하는 AI를 두고 통제 불능과 인류 생존에 대한 우려까지 커지고 있지만, AI 패권을 놓고 경쟁하는 미국과 중국은 어느 쪽도 먼저 브레이크를 밟으려 하지 않는 상황인데요. 이달 말 미중 정상회담에서 AI 안전 문제가 주요 의제로 다뤄질지도 주목됩니다.

#클로드 #AI #중국