로맨스 스캠에서 가짜 의·약사 허위광고까지…AI 콘텐츠 '주의보'

(서울=뉴스1) 강서연 기자 = 할아버지 품에 안긴 어린 손자가 할아버지의 물음에 마치 말을 알아듣는 듯 옹알이한다. 그 모습에 할아버지는 흐뭇한 미소를 지으며 손자를 바라본다. 언뜻 보면 가족의 따뜻한 일상을 담은 영상 같지만, 사실은 인공지능(AI)으로 제작된 영상의 한 장면이다.

11일 뉴스1 취재를 종합하면 최근 유튜브와 숏폼(짧은 동영상) 플랫폼 등을 중심으로 AI로 생성된 콘텐츠가 급증하고 있다. 문제는 이용자들이 이러한 콘텐츠가 AI로 제작된 사실을 인지하지 못한 채 소비하는 경우가 있다는 점이다.

해당 영상의 댓글 창에는 '어떻게 저렇게 말을 잘 알아들을까', '건강하고 예쁘게 크기를', '무럭무럭 잘 자라길' 등의 반응이 이어진다. 일부 이용자가 'AI 영상 아닌가', '합성영상이면 표시해야 한다'고 지적하지만 소수에 불과하다.

실제로 영상 내에는 'AI 제작'이라는 별도의 표기가 보이지 않는다. 영상 제작 채널의 유튜브 계정 페이지 소개 글 '더 보기'를 눌러야만 AI 영상을 제작하는 채널임을 확인할 수 있었다.

이처럼 AI 콘텐츠가 대중의 일상 속으로 빠르게 스며드는 가운데, AI 기술을 악용한 로맨스 스캠(연애 빙자 사기)에 의한 피해도 발생하고 있다.

최근 한 50대 여성이 배우 이정재를 사칭한 로맨스 스캠 일당에 약 5억 원의 손해를 입은 사실이 알려졌다. 이들은 AI로 생성한 가짜 이정재 사진과 운전면허증을 제시하며 피해자를 속였고, 팬 미팅을 위한 VIP 카드 발급 등을 빌미로 6개월간 5억 원 상당을 갈취한 것으로 전해졌다.

지난해에는 AI를 이용해 일론 머스크 테슬라 최고경영자(CEO)를 사칭한 로맨스 스캠 계정에 속아 한 여성이 약 5만 달러(약 7000만 원)를 잃은 사건이 알려지기도 했다.

AI를 이용한 허위광고 문제도 심각하다. 지난달 열린 국회 보건복지위원회 식품의약품안전처 국정감사에서는 AI 가짜 의사 허위광고에 대한 문제가 제기됐다. 한지아 국민의힘 의원은 "유튜브·인스타그램 등에서 AI로 생성된 '가짜 의사·약사' 영상이 건강기능식품 광고에 활용되고 있다"며 대응 체계 마련을 촉구하기도 했다.

향후 AI 기술이 더욱 정교해질수록 사회적 피해가 커질 수 있다는 우려가 제기된다. 특히 고령층의 경우 AI 콘텐츠의 진위를 구별하기 어려워 피해에 더욱 취약한 계층으로 지목된다.

전문가들은 AI 기술이 사회 전반에 빠르게 확산하는 만큼 이용자들이 AI 문해력(리터러시)을 함양하는 것이 중요하다고 설명한다.

최병호 고려대 AI연구소 교수는 "미래에는 AI 콘텐츠의 진위에 대해 사람이 판단하는 것이 사실상 불가능하다"면서 "AI가 AI를 판단하는 시대로 넘어갈 텐데 사실상 그것도 힘든 상황이 될 것"이라고 진단했다.

이어 "영상이든 텍스트든 콘텐츠를 모두 의심하라는 캠페인이 도움이 될 수 있다"며 "모든 걸 의심하고 비판적으로 판단하고, 검증하는 설루션을 거쳐 진위를 확인한 후에 판단해도 늦지 않는다는 과학자 정신이 중요하다"고 덧붙였다.

ksy@news1.kr