"미·중, 이달 중순 'AI 안전 대화' 추진…사이버 공격 감시 논의"

(서울=뉴스1) 김지완 기자 = 미국과 중국이 이달 중순 인공지능(AI) 안전 문제를 논의하는 공식 대화를 추진하고 있다고 로이터통신이 4일(현지시간) 두 명의 소식통을 인용해 보도했다.

보도에 따르면 미국 측에서는 스콧 베선트 재무장관이 이 대화에 참석할 예정이다.

중국 측 대표로는 허리펑 국무원 부총리가 유력하지만, 시진핑 국가주석의 측근으로 AI·반도체 정책을 총괄하는 딩쉐샹 공산당 중앙정치국 상무위원도 거론된다.

마이클 크라치오스 백악관 과학기술정책실장, 인허준 중국 과학기술부 부장이 참석할 가능성도 있다.

최종 의제와 회의 날짜, 참석자는 아직 확정되지 않았다.

2기 도널드 트럼프 행정부 출범 이후 양국이 AI만을 의제로 공식 양자 협의에 나서는 것은 처음이다.

한 소식통은 마이크로소프트의 전직 임원인 크레이그 먼디가 배후에서 중재자 역할을 맡아, 미국의 AI 대화 제안에 대해 중국 측 관계자들과 의견을 타진하고 있다고 말했다. 먼디는 비공식적 대화 채널인 '미·중 트랙 II' AI 대화의 공동 의장을 맡고 있다.

미중 양국은 최근에도 AI 관련 고위급 협의를 가졌다. 지난 1일 크라치오스 실장은 주요 20개국(G20) 혁신 회의가 열린 노스캐롤라이나에서 인 부장과 "훌륭한" 회담을 가졌다고 밝혔다. 베센트 장관도 G20 재무장관 회의에서 중국 관리들과 AI에 대해 "제한적" 논의를 나눴다고 말했다.

소식통 중 한 명은 미국이 AI를 이용한 사이버 공격 감시에 대한 협력을 논의하려 한다며, AI 관련 사이버 공격을 방지하기 위해 양국의 AI 연구소들이 자율적으로 규율을 지키고 정보를 공유하도록 요청하는 제안을 했다고 전했다.

미국은 향후 중국이 사이버 공격 능력을 갖춘 고성능 AI 모델을 개발할 가능성과 중국 기업들이 미국의 AI 모델을 '증류'(distillation)하는 문제도 우려하고 있다. 증류는 대형 AI 모델의 출력을 이용해 보다 작은 모델을 훈련하는 기법이다.

크라치오스 실장도 지난 7월 중국의 AI 기업인 문샷AI가 미국 앤트로픽의 최신 모델 '클로드 페이블 5'를 증류 방식으로 활용했다고 주장한 바 있다.

최근 인간의 통제를 벗어나 자율적으로 행동하는 AI 에이전트의 위험성도 대두됐다. 오픈AI와 보안 연구진에 따르면 지난 7월 오픈AI 모델을 기반으로 만들어진 약 700개의 악성 AI 에이전트가 AI 스타트업 허깅페이스를 해킹하고 로그를 위조해 흔적까지 은폐하려 했다.

로이터는 지난봄 악성 AI 에이전트 무리가 독일 웹사이트를 장악해 다른 AI 에이전트들의 게시판으로 바꾼 사례도 발생했다고 전했다.

두 소식통과 해당 사안에 정통안 또 다른 소식통은 오는 24일 워싱턴DC에서 열릴 예정인 트럼프 대통령과 시 주석의 정상회담을 앞두고 중국 관리들이 미국과의 준비 회의에서 AI 대화의 중요성을 거듭 강조했으며, 이 대화를 정상회담에서 도출할 주요 성과로 보고 있다고 전했다.

미국 컨설팅기업인 DGA-올브라이트 스톤브릿지그룹의 파트너 폴 트리올로는 "두 AI 초강대국의 대화가 가장 중대한 시점에 이뤄지고 있다"며 "지금이 아니면 기회가 없을 것"이라고 말했다.

미국 싱크탱크인 카네기 국제평화재단 중국 AI 이니셔티브 프로그램의 스콧 싱어 공동 책임자는 미중 모두 국경을 넘는 AI 위기를 효과적으로 관리할 필요성을 느끼고 있다고 설명했다.

또 다른 싱크탱크 '뉴아메리카'의 샘 색스 선임연구원은 "우리는 감시받지 않는 최첨단 AI 에이전트가 막대한 피해를 일으킬 수 있는 전환점에 와 있다"며 "미국과 중국 모두 취약하다. 이는 지정학적 경쟁을 넘어선 문제"라고 강조했다.

gwkim@news1.kr