AI로 만든 '가짜의사' 광고 판친다, 소비자 현혹 심각…구별법은

(서울=뉴스1) 강승지 기자 = 흰 가운을 입은 남성이 영상에 나와 한 치과의 임플란트 시술 혜택을 내세운다. 진짜 의사가 말하는 것 같은 이 광고 영상 속 남성은 사실 생성형 인공지능(AI) 기술로 제작된 '가짜'다. 그런데 사람 모습을 한 이미지가 입술을 움직이고, 자기 말을 강조하는 손동작도 쓴다.

최근 AI로 만든 가짜 전문가나 유명인 딥페이크를 활용한 허위·과장 광고 등이 식·의약품 분야를 중심으로 범람하고 있다. 이런 광고는 노년층 등 소비자의 피해를 부르고 시장 질서를 교란하고 있다. 게다가 SNS 등을 통해 빠른 속도로 유포되고 있어 신속한 대응이 필요한 상황이다.

12일 의료계에 따르면 최근 이국종 국군대전병원장을 도용한 한 유튜브 채널이 기승을 부렸다. 이 채널은 검증되지 않은 위험한 응급처치법을 설명하거나 이 원장의 목소리를 딥페이크 기술로 흉내 내는 등 시청자들에게 혼란을 초래했다.

'이국종 교수의 조언'이라는 유튜브 채널은 지난달 22일 '심장마비가 혼자 있을 때 오면, 이 10초를 모르면 죽습니다'라는 영상을 게재했다. 조회수는 67만 회를 상회했다. 해당 영상은 심장마비 전조 증상이 나타날 때 대처법으로 2초 간격으로 강하게 기침하기 등을 제시한다.

의료계는 이런 방법이 오히려 골든타임을 지연시킬 수 있다고 경고했다. 즉시 119에 신고하는 게 최선이라는 취지다. 해당 채널은 지난달 말까지 구독자를 4만 명 모았다. 허위 정보임에도 딥페이크 기술이 정교해 실제 이 원장이 운영하는 채널로 오인하는 시청자들도 나타났다.

논란이 커지자, 국방부와 이 원장 측은 개인정보 침해 신고 등 대응에 나섰다. 국방부는 해당 채널이 이 원장과 무관하며 군 당국 차원에서도 사칭 계정에 대한 조치를 취한 상태라고 밝혔다. 해당 채널은 이달 들어 유튜브 측에 의해 삭제됐다.

이런 사례들과 관련해, 정부는 지난해 12월 'AI 가짜 의사 광고'(AI 등을 활용한 시장 질서 교란 허위·과장 광고) 대책을 발표했으며 공정거래위원회와 식품의약품안전처는 광고에 대한 위법성 판단 기준을 명확히 수립하는 등 후속 절차를 이어가고 있다.

식약처는 가짜·조작·왜곡 정보와 부당광고 등 시장 질서를 해치는 행위에 대한 근본적인 대응 체계를 마련하기 위해 지난달 24일 식품부당위해긴급대응단을 출범했다. 대응단은 부당광고 정보 수집부터 현장 점검, 기획 단속, 제도 개선까지 통합 대응 체계를 갖춰 운영된다.

공정위는 생성형 AI, 딥페이크 등으로 만든 가상인물을 활용해 광고할 경우 반드시 '가상인물'이라고 표시하도록 '추천·보증 등에 관한 표시·광고 심사지침' 개정안을 마련해 오는 28일까지 행정예고에 돌입했다.

매체별로 가상인물을 활용할 때는 구체적인 표시 방식을 따라야 한다. 블로그 등 문자 중심 매체는 게시물 제목이나 첫 부분에 "AI를 기반으로 생성된 가상인물이 포함된 게시물입니다" 같은 문구를 표시해야 한다.

사진·동영상 등 영상 매체는 광고에 가상인물이 등장하는 동안 그 인물과 가까운 위치에 '가상인물' 등의 문구를 표시해야 한다. 공정위는 이해관계자와 관계 부처 등의 의견을 들은 뒤 전원회의 의결 등을 거쳐 개정안을 확정·시행할 예정이다.

시청자 역시 AI 생성물을 구별하는 기본적인 방법을 알고 있으면 피해 예방에 도움이 된다. 우선 이미지의 경우 손이나 손가락 개수가 비정상적이거나 관절·손톱 방향이 어색한 사례가 많다. 또 피부 표현이 지나치게 매끈해 모공이나 주름이 거의 보이지 않을 수 있다.

간판·문서 속 글자와 숫자가 깨져 의미 없는 조합으로 나타날뿐더러 얼굴과 배경 사물의 빛, 그림자 방향이 서로 맞지 않고 액세서리가 귀를 관통하며 공중에 떠 있는 형태로 표현되는 경우도 AI 생성 이미지에서 빈번하게 발견된다.

영상에서는 입술 움직임과 음성이 미세하게 어긋나거나 감정 변화 없이 일정한 톤과 억양이 반복되는 경우가 많다. 눈 깜빡임이 일정한 패턴으로 반복되거나 고개와 몸이 거의 움직이지 않고 고정된 자세를 유지하는 점으로 확인 가능하다.

이밖에 콘텐츠의 맥락과 출처를 확인하는 일도 중요하다. 수익 강조 등 직업적 맥락과 맞지 않는 발언을 한다면 의심해 볼 필요가 있고 개인 연락처 제공, 외부 링크 클릭 유도 등도 주의해야 한다. 기관의 공식 홈페이지에 동일한 영상이 있는지 교차 확인해 보는 일도 도움 된다.

ksj@news1.kr