[딥포커스] AI 고도화, 내년 美대선에 어떻게 영향 미칠까

(서울=뉴스1) 김성식 기자 = 생성형 인공지능(AI) 기술이 고도화됨에 따라 선거운동 방식에도 큰 변화가 일 것으로 보인다고 미국 정치전문매체 더힐이 18일(현지시간) 보도했다. 내년 대선을 앞둔 미국 정치권에서 벌써 AI 기술을 상대 진영을 공격하는 데 활용하고 있기 때문이다.

허위 정보를 양산한다는 우려에 AI를 규제해야 한다는 목소리가 갈수록 커지고 있지만 관련 입법은 제 속도를 내지 못하고 있는 실정이다. 전문가들은 이럴 때일수록 유권자의 현명한 판단이 중요하다고 강조했다.

더힐에 따르면 최근 미 정치권에서 AI 기술로 만들어 낸 선전물은 이미 위험 수위를 넘겼다는 평가가 학계를 중심으로 나오고 있다. 특정인물의 얼굴을 악의적으로 합성하는 이른바 '딥페이크'(deepfake)가 마치 사실인양 인터넷 공간에서 무차별적으로 확산되면서다.

폴 배럿 뉴욕대 스턴경영대학원 기업인권센터 부소장은 범죄자와 달리 "일반인들은 딥페이크를 만들지 않을 거란 믿음이 무너진 상태"라며 "더 많은 사람들이 '무엇이 진실인지 알 수 없다'고 체념한 듯 하다"고 진단했다. 그러면서 내년 미 대선이 선거 운동 방식에 있어 거대한 분수령이 될 것으로 전망했다.

공화당 유력 대선 주자인 도널드 트럼프 전 대통령과 같은 당 소속 론 디샌티스 플로리다 주지사는 일찌감치 선거 유세에 AI 기술을 적극 사용하고 있다. 디샌티스가 지난달 24일 '미국의 위대한 복귀'를 내세우며 대선 출마를 공식 선언하자 트럼프는 자신의 사회관계망서비스(SNS)인 트루스 소셜에 이를 패러디한 딥페이크 영상을 게시했다.

이에 디샌티스 선거캠프에서도 지난 5일 공식 트위터 계정에 트럼프를 비난하는 딥페이크 영상을 올리며 맞불을 놨다. 영상에는 트럼프가 백악관 브리핑룸에서 앤서니 파우치 전 국립알레르기·전염병 연구소장을 껴안고 입맞춤하는 듯한 합성 사진이 올라왔다.

파우치 전 연구소장은 미국의 코로나19 방역 대응을 총괄했던 인물이다. 마스크 착용과 사회적 거리두기에 강한 반감을 가졌던 보수 유권자를 겨냥해 트럼프 재임 당시'왜 파우치를 해고하지 않았냐'는 의혹을 제기한 것이다. 배럿 부소장은 "10년 전에 이런 광고를 냈다면 역효과만 났겠지만 오늘날에는 마치 정상적인 일로 여겨진다"고 꼬집었다.

딥페이크 영상은 특히 사실과 거짓을 교묘하게 합성해 유권자들의 판단을 저해한다는 점에서 치명적이다. 디샌티스 캠프 측이 처음 비난 영상을 게재했을 때만 하더라도 해당 영상의 진위를 의심하는 이들은 많지 않았다. 그러나 이틀 뒤 AFP 통신을 시작으로 생성형 AI로 만든 가짜 사진임을 보도하자 비로소 디샌티스 측도 뒤늦게 해당 사진이 합성됐다는 점을 시인했다.

진보 성향의 소비자 단체 퍼블릭시티즌의 로버트 와이즈먼 대표는 디샌티스의 딥페이크가 "유권자들이 사실이 아닌 것을 사실로 믿도록 속였다는 점에서 매우 기만적이다"라고 지적했다. 그러면서 "과거 선거 광고물에도 컴퓨터 그래픽이 쓰이기는 했지만 배경을 합성하는 수준에 머물렀을 뿐 이처럼 처음부터 유권자를 속이려는 의도는 전혀 없었다"라고 부연했다.

사라 크렙스 코넬대 기술정책 연구소장은 "유권자들이 이제 어느 것도 사실이 아니라고 단정하거나 혹은 특정 정파에 유리한 단서들을 맹목적으로 믿기 시작했다"면서 "둘 다 민주주의에 도움이 되지 않는다. 민주주의를 떠받치는 '신뢰'란 기둥이 무너져 내리고 있다"고 경고했다.

전문가들은 AI 기술을 활용하면 쉽고 간편하게 선전물을 만들 수 있기 때문에 결국 선거 운동에 AI가 널리 쓰이는 건 시간 문제라고 내다봤다. 마이크 넬리스 AI 스타트업 어센틱 CEO는 "콘텐츠 제작과 배포를 간소화하는 새로운 AI 도구와 여론 추이에 관한 데이터를 집약해서 보여주는 도구 등이 조만간 등장할 것으로 보인다"고 했다.

넬리스는 이미 지지층을 상대로 선거운동 자금 모금을 요청하는 이메일을 작성하는 AI 도구인 '퀼러'를 제작한 상태다. 그는 "젊은 선거 운동원들이 모금 이메일을 손으로 작성하는 것보다 퀼러를 사용하는 게 효율성을 높여준다"고 설명했다.

상황이 이렇다 보니 미국 정부와 연방 의회도 자국의 AI 산업 패권을 유지하면서도 이를 어떻게 규제해야할지 고심하고 있다. 지난 4월 미 상무부는 AI의 위험성에 대한 전문가들의 의견을 청취한 뒤 오픈AI·구글 등 개발사에 관련 대책을 주문하는 이른바 'AI 규제 이니셔티브'를 내놓겠다고 밝혔다.

지난달 미 상원 법사위원회는 AI 감독 방안을 마련하기 위해 청문회를 개최하고 샘 올트먼 오픈AI CEO와 크리스티나 몽고메리 IBM 부회장 등 업계 관계자들을 증인으로 부르기도 했다. 이 자리에서 올트먼은 AI가 내년 대선 여론에 영향을 줄 수 있다면서 생성형 AI 개발 허가증(라이선스)을 발급하고 관련 기술을 테스트하는 기관을 행정부 산하에 설립하는 방안을 제안했다.

그러나 빠르게 발전하는 기술 발전 속도를 거대한 정부 기관과 의회가 따라잡기란 현실적으로 불가능하다는 견해가 지배적이다. 규제 법안을 마련하더라도 이를 회피하는 사례가 나올 가능성이 높다. 배럿 부소장은 "AI로 생성한 정보는 제한을 받더라도 어떤 식으로든 유포되게 돼 있다"며 "유권자들이 경계하는 수밖에 없다"고 조언했다.

딥페이크 탐지업체인 딥미디어에 따르면 올해 1월부터 3월까지 온라인에 게시된 영상 합성물은 지난해 같은 기간 대비 3배, 음성 합성물은 8배 증가한 것으로 집계됐다. 대선을 앞둔 올해 딥미디어는 약 50만개의 딥페이크가 사회관계망서비스(SNS)에서 기승을 부릴 것으로 전망했다.

seongskim@news1.kr