'네팔 대홍수' AI 조작에 시신 노출까지…'클릭 장사'에 두 번 우는 피해자

(서울=뉴스1) 신은빈 기자 전지아 수습기자 = 네팔 대홍수를 향한 전 세계의 관심이 쏠리면서 인공지능(AI)으로 조작한 허위 정보와 적나라한 참사 영상이 함께 퍼지고 있다. 이 같은 콘텐츠는 구호 활동에 혼선을 일으키고 피해자와 유가족에게 2차 피해를 줄 수 있다는 우려가 제기된다.

특히 온라인 플랫폼 특성상 이용자가 의지와 무관하게 참혹한 영상을 접하는 점도 문제로 꼽힌다. 플랫폼이 자체 가이드라인을 적용 중이긴 하지만, 틈새를 비집고 무분별하게 퍼지는 정보에는 이용자들의 자정 작용도 동반돼야 한다는 지적이 나온다.

1일 뉴스1 취재에 따르면 최근 스레드와 엑스(옛 트위터) 등 사회연결망서비스(SNS)에서는 네팔 홍수 피해 현장을 AI로 제작한 영상들이 공유되고 있다.

지난달 27일 엑스에는 산비탈에서 내려온 흙탕물이 네팔의 한 지역을 덮치는 영상이 올라왔다. 프로필을 통해 네팔에 거주한다고 밝힌 게시자는 "재난에 휘말린 모든 분들이 무사히 구조되기를 바란다"며 네팔 홍수 현장을 전하는 듯한 글을 영상과 함께 게재했다. 영상은 이날 기준 조회수 720만 회를 넘겼다.

하지만 이 게시물의 커뮤니티 노트에서는 영상이 AI로 생성됐다는 의혹이 제기됐다. 커뮤니티 노트는 엑스 사용자가 오해의 소지가 있는 게시물에 유용한 메모를 추가할 수 있는 기능이다. 사용자들은 영상 움직임이 부자연스럽고, 건물과 나무가 갑자기 튀어나온 점 등을 근거로 들었다.

호주 통신사 AAP 팩트체크팀에 따르면 네팔 홍수 발생 이후 수많은 가짜 재난 영상이 SNS에 쏟아지고 있다. 홍수가 네팔의 한 마을을 휩쓸고 지나가기 전과 후를 비교한 사진을 담은 페이스북 게시물에는 메타가 'AI 콘텐츠' 표시를 부착했다. 오픈AI의 탐지 소프트웨어 역시 이 사진에 삽입된 구글의 비가시적 워터마크 '신스ID'(SynthID)를 발견한 것으로 확인됐다.

또 다른 페이스북 이용자는 2021년 일본에서 발생한 산사태 영상을 네팔 홍수라는 문구와 함께 게재해 잘못 유포했다. 이 영상은 게재된 지 하루도 지나지 않은 시점에 조회수 36만 회를 넘겼다.

참사 현장을 적나라하게 드러낸 콘텐츠 유통도 도마 위에 올랐다. 훼손된 시신 등 피해자의 모습을 촬영한 영상이 빠르게 확산하면서 피해자와 유가족의 2차 피해는 물론, 무방비로 이를 마주한 이용자들의 트라우마 우려까지 제기된다.

스레드 등에서는 두 남성이 홍수 피해자의 시신에서 귀걸이를 훔치는 영상이 모자이크 없이 유통되고 있다. 영상 속에는 시신의 뒷모습이 그대로 담겼다. 이외에도 하체만 남은 시신을 수습하는 영상 등이 여과 없이 공유되며 조회수를 올리고 있다.

이용자들은 "우연히 네팔 홍수 영상을 본 후 댓글을 달거나 '좋아요'를 누르지도 않았는데 적나라한 참사 영상이 계속 뜬다" "홍수 참사 영상을 계속 보다 보니 참사의 잔혹함을 알리려는 건지, 조회수를 높이려는 건지 모르겠다"며 불편함과 우려를 호소한다.

재난 직후 참상을 그대로 담은 영상이 퍼지는 일은 이번이 처음은 아니다. 2022년 이태원 참사 당시에도 수많은 피해자가 한 번에 심폐소생술을 받고 있는 모습이나 시신을 수습하는 모습이 SNS에서 적나라하게 공개되면서 정신적 충격을 받았다는 이들이 속출했다.

이에 플랫폼들은 콘텐츠 유통 가이드라인을 세워 대응하고 있다. 인스타그램·페이스북과 스레드를 운영하는 메타는 비의료적 상황에서 신체 절단이 포함된 영상과 이미지 게시를 허용하지 않는다고 커뮤니티 규정에 명시해 뒀다. 다만 일부 게시물은 훼손된 시신 영상을 여전히 여과 없이 노출하고 있어 자체 가이드라인의 실효성에도 의문이 제기된다.

전문가들은 불특정 다수에게 불시에 닥치는 재난 특성상 관련 소식에 대한 높은 관심이 콘텐츠 소비로 이어진다고 본다. 이 같은 수요에 기반해 자극적인 콘텐츠가 범람하다 보니 유가족은 물론 대중에게까지 또 다른 피해를 준다는 지적이다.

김옥태 방송통신대 미디어영상학과 교수는 "우연히 피해 영상을 보더라도 반복적으로 노출되면 모르는 사이 심리적인 충격이 커질 수 있고, 피해 관련자를 넘어 일반 SNS 이용자들에게도 트라우마를 안길 수 있다"며 "플랫폼은 자율 정책을 체계화해 AI와 자극적 콘텐츠를 걸러내야 하고 이용자들 역시 신고를 통한 자정작용이 필요하다"고 진단했다.

bean@news1.kr