미국 국방부 청사에서 대형폭발이 발생했다는 가짜 사진이 온라인에 확산되자 영국 탐사보도 매체 벨링캣의 닉 워터스 연구원은 트위터에 사진이 AI로 만들어진 이미지라고 밝혔다. 2023.05.23/(워터스 트위터 갈무리)

인공지능(AI)으로 만든 미국 국방부 청사(펜타곤) 대형폭발 사진이 온라인에 퍼지면서 혼란이 일어난 가운데 기술로 이런 AI 사진을 걸러내는 것은 한계가 있어 이를 분별하는 '디지털 문해력'을 키워야 한다는 주장이 제기됐다.

23일(현지시간) 블룸버그통신은 "AI가 생성한 사진을 거르는 기술은 한계가 있기 때문에 모두 분별력 있는 눈으로 무장하고 좀 더 의심할 필요가 있다"는 내용의 칼럼을 게재했다. 칼럼에서 블룸버그는 전날(22일) 확산된 펜타곤 폭발 사진을 언급하며 "이 사건은 많은 이들이 우려한 점을 확인해줬다. 바로 AI 사진 생성이 쉬워지면서 '가짜뉴스'는 더욱 기승을 부릴 것이라는 사실이다"고 분석했다.

앞서 전날 미국에서는 페이스북과 트위터 등 사회관계망서비스(SNS)를 중심으로 펜타곤에서 대형폭발이 발생했다는 사진이 퍼져 주식시장이 출렁이는 큰 소동이 일었다.

하지만 이 사진은 AI로 만들어낸 허위 이미지로 판명됐고 국방부와 관할 경찰과 소방당국도 허위사실이라고 반박했다.앞서 최근 SNS에는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습이 담긴 사진이 유포돼 한차례 논란이 일었지만 해당 이미지는 AI로 만든 허위 이미지로 밝혀졌다.

또 도널드 트럼프 전 미국 대통령이 경찰관들에게 체포되는 허위 사진도 최근 온라인에 퍼지면서 가짜뉴스가 확산하기도 했다.

블룸버그는 이런 일련의 사태를 막기 위해 사진 출처를 추적하는 어도비의 디지털 워터마크 같은 기술은 의미가 있다면서도 "이를 기술로 잡아내는 것은 끝없는 두더지 잡기 게임이 될 것"이라며 한계가 명확하다고 지적했다.

기술전문매체 테크크런치도 마이크로소프트(MS) 역시 AI가 생성한 사진 또는 동영상을 메타데이터로 표기하는 서비스를 도입할 예정이지만 문제의 확실한 해결책으로 보기는 어렵다고 전했다.

산산조각 난 트위터 로고 시각물 © 로이터=뉴스1 © News1 박형기 기자

특히 블룸버그는 이번 펜타곤 사태를 키운 것은 최근 바뀐 트위터의 부실한 검증 서비스 때문이라고 평가했다. 트위터는 기존에 유명인이나 언론인 등을 검증해 '블루 체크'를 달아주는 서비스를 실행해 왔는데 일론 머스크 테슬라 최고경영자(CEO)가 트위터를 인수하면서 이 서비스를 유료로 전환했다.

블룸버그는 "안타깝게도 머스크의 시스템은 사칭범들과 모방범들의 먹잇감이 됐다"며 펜타곤 사태도 이로 인해 더 커졌다고 지적했다.

실제로 해당 사진은 블룸버그통신과는 관련이 없는 유료 계정 '블룸버그피드'에 올라오기도 했으며 공식 인증을 받은 러시아 관영 매체 RT와 금융매체 제로헤지에도 공유돼 빠르게 확산했다.

블룸버그는 AI 이미지 생성 프로그램의 보급으로 허위 이미지를 만드는 것이 더욱 쉬워지면서도 해당 서비스 공급자들이 검열하지 않는 점도 한계라고 지적했다.

특히 어도비와 미드저니, 오픈AI의 달리(DALL-E2) 같은 AI 이미지 생성기들은 유명인과 정치인, 폭력·전쟁을 연상케 하는 사진을 만들지 못하게 하지만 스테이블 디퓨전 같은 오픈소스 프로그램은 별다른 제약을 두지 않는다.

블룸버그는 결국 "사진은 더 이상 증거로 그다지 유용하지 않게 되고 사실로 판명 난 사진의 진위에 대해서도 의문을 품게 될 것"이라며 "예측한대로 AI가 가짜뉴스의 확산을 부추길 것이라는 예측은 현실이 되고 있다고" 우려했다.

그러면서 "기술 기업들은 가짜뉴스 확산 방지를 위해 더 큰 노력을 기울여야 하지만 우리도 경각심을 가지고 접근해야 한다"며 "보는 것이 더 이상 믿는 것이 아닌 이 시대에 우리는 더 분별력 있는 눈으로 무장하고 더 의심할 필요가 있다"며 디지털 문해력을 키워야 한다고 강조했다.


jaeha67@news1.kr