딥페이크·여론조작 대응…軍, '사이버 정보작전' 수행 무기 만든다

(서울=뉴스1) 김예원 기자 = 군이 생성형 인공지능(AI)을 활용한 가짜뉴스, 선동 공작에 선제 대응하기 위한 차세대 사이버 정보 작전 무기체계 도입을 본격적으로 추진한다.

26일 군 당국에 따르면 방위사업청은 최근 이 같은 내용을 담은 '지능형 사이버 정보작전 수행 체계 개념' 관련 연구용역을 발주했다. 연구는 계약일로부터 12개월간 진행되며, 2억 원 규모의 예산이 투입된다.

이번 사업은 최근 현대전에서 생성형 AI, 딥페이크 등 첨단 IT 기술을 활용해 가짜뉴스를 실시간으로 대량 생산·유포하는 정보공작이 빠른 속도로 진화하고 있다는 문제의식에서 비롯됐다. 올해 2월 발발한 미국-이란 전쟁 관련 AI 조작 영상이 SNS를 타고 빠르게 유포된 사례가 대표적이다.

최근 SNS에선 미국의 항공모함 에이브러햄 링컨함이 폭격으로 화염에 휩싸이거나 이스라엘 텔아비브에 미사일 공격이 쏟아지는 등의 AI 조작 영상이 무차별 확산하며 진위 논란에 휩싸인 바 있다. 특히 한국의 경우 IT 인프라가 잘 갖춰져 있고, 국민들의 SNS 이용률도 높아 적대 세력이 사이버 정보작전을 전개하게 되면 안보 환경상 취약성이 큰 측면이 있는 것이 사실이다.

군 당국은 SNS상 허위사실 유포 등에 사후적·수동적으로 대응하던 기존 체제에서 벗어나, 적대세력의 공작을 사전에 감시·식별·대응하는 군 작전운용체계를 수립할 방침이다. 이와 함께 해당 임무를 전담할 무기체계의 신속한 획득도 병행한다는 구상이다.

이번 연구를 통해 군은 '지능형 사이버 정보작전 수행 체계'의 군사적·기술적 개념을 정의할 예정이다. 고도화되는 외부 기술 위협의 종류를 분석하고, 적대세력의 사이버 정보공작에 대응해 '감시-식별-분석-결심-대응'으로 이어지는 일련의 무기체계 운용 개념을 구체화하는 작업도 함께 이뤄진다.

더 나아가 군은 이러한 개념을 미래 지휘통제 체계와 연계하는 방안도 도출할 방침이다. 우선 사이버 정보작전 운용 개념서(CONOPS)를 수립해, 평시 감시 단계에서 전시 군 주도의 작전 통제로 즉각 전환하는 지휘통제 절차를 정립한다. 이와 함께 무기체계 전력화 및 교리 발전에 필요한 조직·교육훈련 등 전투발전 소요도 함께 제시할 계획이다.

특히 최근 여론 조작 및 선전 공작이 SNS를 통한 AI 조작 콘텐츠 중심으로 전개되는 만큼, 사이버공간 내 가짜뉴스의 유통 및 전파 경로를 정밀 분석하는 능력도 확보할 방침이다. 이를 통해 적대세력이 의도하는 정보작전의 군사적 영향력과 파급력을 정량화·가시화하고 사전 예측하는 체계까지 구축하는 것이 목표다.

이를 뒷받침하기 위한 실증 AI 모델 개발도 함께 추진한다. 사이버 정보작전이 전개될 경우 인터넷의 다양한 채널을 통해 가짜뉴스가 기하급수적으로 유포되는 만큼, 위험 정보와 혐오 표현 등을 신속히 걸러내고 식별할 수 있는 전용 AI 기술이 필수적이라는 판단이다.

군 당국은 챗GPT나 클로드 같은 대형언어모델(LLM) 및 실시간 데이터 검색 기술을 결합해 위험 상황을 정밀 식별할 방침이다. 이를 바탕으로 가짜뉴스 발원지와 전파 경로를 시각화하고, 학습된 AI가 적절한 사이버 작전 대응 방책을 자동으로 생성·추천하는 체계까지 구축한다는 구상이다.

kimyewon@news1.kr