(서울=뉴스1) 신은빈 기자 = 윤석열 대통령의 탄핵 찬반 집회에서 인공지능(AI)을 활용한 여론전이 주목받고 있다. 집회 현장과 온라인 공간에서 AI 생성물이 범람하면서 조작된 이미지와 가짜뉴스가 혼란을 야기할 수 있다는 우려가 함께 나온다.
17일 정보기술(IT) 업계에 따르면 한 유튜브 채널에 윤 대통령 체포영장 집행 기념으로 AI가 제작한 풍자 노래를 듣고 있다는 내용의 게시물이 올라왔다. 게시자가 언급한 노래는 '내 이름 계엄'으로, 한 밴드 그룹의 인기곡을 개사하고 윤 대통령의 목소리와 얼굴을 AI로 합성해서 영상을 제작했다.
실제 탄핵 찬반 집회에서도 이 같은 AI 합성 노래는 단골 소재다. 앞서 탄핵 찬성 집회는 윤 대통령의 목소리를 합성하고 개사한 노래 '나는 탄핵은 딱 질색이니까'를 부르며 윤 대통령의 탄핵과 체포영장 집행을 촉구했다.
반대 집회는 윤 대통령이 7일 발표한 비상계엄 담화문을 가사로 활용해 AI로 제작한 노래를 시위에 활용했다. 노래 제작자는 "AI로 만든 노래"라며 유튜브에 영상을 올렸고, 17일 기준 조회수는 45만 회를 넘기며 관심을 끌고 있다.
AI 기술은 노래를 넘어 이미지 합성에도 활발히 사용되고 있다. 윤 대통령의 1차 체포영장 집행이 무산됐던 3일 엑스(X)에서는 xAI의 AI 챗봇 그록으로 합성한 가상 체포 이미지가 공유됐다.
이용자가 '한국의 윤석열 대통령이 체포돼서 교도소로 연행되는 모습 보여줘'라고 명령어를 입력하자 입을 굳게 다문 채 경찰에게 연행되는 윤 대통령의 모습이 사실적으로 표현된 그림이 여러 장 생성됐다.
AI가 가상으로 만든 그림을 본 온라인 커뮤니티 이용자들은 "신기하고 진짜 같다"면서도 "덕분에 이런 식으로 보고 싶은 가짜뉴스 만드는 일이 쉬워지겠다"고 걱정했다.
한 방송사에서 비상계엄 선포를 해제하지 못했을 경우를 AI 가상 영상으로 구현한 다큐멘터리는 혼란을 우려하는 반응을 부르기도 했다. 영상에는 무장한 계엄군이 국회에 총을 난사하고 의원을 체포하는 장면이 현실과 가깝게 담겼다.
어느 시청자는 "재현도 아닌 가정 상황을 공포감 부르는 연출로 표현하는 데에 AI를 사용하다니 위험하다"며 AI를 여론전에 사용할 경우 진위 구분이 어려워질 위험을 제기했다.
전문가들은 생성형 AI를 활용한 여론전이 가짜뉴스 재생산에 역이용될 수 있다고 우려한다. AI의 접근성은 향상되고 기술은 정교해지면서 누구나 손쉽게 AI로 원하는 콘텐츠를 만들 수 있게 됐기 때문이다.
문형남 한국AI교육협회 회장은 "AI 여론전이 정치 사회적으로 비슷한 의견을 가진 이들을 집결하는 효과가 큰 만큼 부정확한 정보여도 불특정 다수를 오도하고 선동할 위험이 있다"며 "AI 생성물은 상당수 검증이 되지 않았고 여전히 환각(할루시네이션) 우려가 존재한다"고 말했다.
이어 "내년 시행되는 AI 기본법에 생성형 AI 활용 사실을 알리는 워터마크 표시제가 담긴 것처럼, 공공기관과 민간 업체 등이 진위 구분을 명확히 알리는 검증 체계를 구축할 필요가 있다"고 덧붙였다.
bean@news1.kr
