"2주만에 110건" 전쟁보다 빨리 퍼진 AI 가짜영상…전쟁 휘두르나

(서울=뉴스1) 김민수 기자 = 이스라엘과 미국의 대(對)이란 공격 이후 소셜미디어에서는 인공지능(AI)으로 제작된 전쟁 관련 영상과 이미지가 빠르게 확산하며 새로운 형태의 정보전 양상이 나타나고 있다. 실제 전투 상황을 묘사한 것처럼 보이는 콘텐츠가 대량 유통되면서 전쟁에 대한 인식과 여론에 영향을 미칠 수 있다는 분석이 제기된다.

16일 외신에 따르면 최근 소셜미디어에서는 텔아비브 대규모 폭격 장면이나, 미군 포로 영상 등 실제 확인되지 않은 전투 장면을 묘사한 AI 생성 콘텐츠가 확산하고 있다.

뉴욕타임스는 이번 중동 분쟁과 관련해 최근 2주 동안 전쟁 관련 AI 생성 이미지와 영상 110건 이상이 온라인에서 확인됐다고 보도했다. 해당 콘텐츠는 엑스(X), 틱톡, 페이스북 등 주요 플랫폼에서 수백만 회 이상 확산된 것으로 나타났다.

일부 콘텐츠는 실제 전황을 왜곡할 수 있는 사례로 지목됐다. 로이터통신은 텔아비브가 이란 미사일 공격으로 큰 피해를 본 것처럼 보이는 영상이 AI 생성 콘텐츠일 가능성이 높다고 보도했다. 미군 특수부대가 이란에 생포됐다는 역시 AI로 제작된 허위 콘텐츠로 확인됐다고 전했다.

이러한 콘텐츠는 실제 피해 규모나 전투 상황을 과장하거나 왜곡해 전황에 대한 인식을 흐릴 수 있다는 지적이 나온다.

이번 중동 분쟁에서는 우크라이나 전쟁 초기와 비교해 AI 허위 콘텐츠 확산 규모가 더 커졌다는 분석도 제기된다.

뉴욕타임스는 카타르 노스웨스턴대 마크 오웬 존스 미디어 분석학 교수를 인용해 현재 온라인에서 확산하는 AI 관련 콘텐츠 규모가 과거보다 대폭 증가했다고 전했다. 그는 "우크라이나 전쟁이 발발했을 당시와 비교해 지금은 AI 생성 콘텐츠가 훨씬 많이 등장하고 있다"고 분석했다.

AP통신도 이번 중동 분쟁이 국가 연계 선전 활동과 인터넷 검열, AI 생성 허위정보가 동시에 나타난 사례라고 평가했다. AP는 우크라이나 전쟁 초기에는 현장 영상과 위성사진, 공개정보 분석(OSINT) 등 검증할 수 있는 자료가 상대적으로 풍부했지만, 이번 분쟁에서는 AI 콘텐츠 확산 속도가 훨씬 빠르다고 설명했다.

영국 일간지 가디언 역시 AI 허위물이 증가하면서 실제 사진과 영상까지 조작 의심을 받는 상황이 나타나고 있다고 지적했다. 허위 콘텐츠 확산이 사실 검증 환경 자체를 약화할 수 있다는 의미다.

전쟁 상황을 해석하고 전달하는 방식 자체가 경쟁의 대상이 되고 있다는 분석도 나온다.

영국 싱크탱크 전략대화연구소(ISD)는 전쟁에서 온라인 서사를 둘러싼 경쟁을 내러티브 전쟁으로 설명한다. 전황이나 피해 상황을 특정 방식으로 해석해 온라인에서 확산시키는 과정이 전쟁의 일부로 작동할 수 있다는 것이다.

소셜미디어 분석업체 사이아브라(Cyabra)도 이번 분쟁에서 이란 연계 계정들이 조직적으로 운영되는 가짜 계정 네트워크를 활용해 AI 생성 전쟁 영상을 확산시켰다고 분석했다.

다만 정보전은 특정 국가만의 전략은 아니다. 미국과 러시아 등 주요 국가들도 과거 분쟁에서 온라인 여론전과 정보전을 활용해 온 것으로 알려져 있다.

미국 브루킹스연구소는 지난 2023년 보고서에서 딥페이크 기술이 국제 분쟁 상황에서 군사적 긴장을 악화시킬 수 있다고 경고했다. AI로 제작된 영상이 군 지휘관 발언이나 군사 행동을 조작하는 방식으로 활용될 경우 대중과 정책결정자, 군 지휘 체계에 혼란을 줄 수 있다고 설명이다.

기술 매체 와이어드는 최근 분석에서 엑스에서 친이란 성향 계정과 일부 인증 계정이 AI 생성 전쟁 영상을 확산시키고 있으며 플랫폼 알고리즘과 수익화 구조가 이러한 콘텐츠 확산을 부추겼다고 지적했다.

결국 이번 중동 분쟁은 AI 생성 콘텐츠의 대량 생산과 온라인 확산이 동시에 나타난 사례라는 평가가 나온다. 인공지능 기술이 전장뿐 아니라 정보 환경에서도 전쟁 양상에 영향을 미칠 수 있다는 분석이다.

kxmxs4104@news1.kr