"전쟁·선거에 SNS발 여론조작 횡행…이스라엘도 허위선전에 밀려"

(서울=뉴스1) 이정환 기자 = 전쟁의 흐름에 미치는 소셜미디어(SNS)의 영향이 갈수록 커지고 있다. 우크라이나-러시아, 이스라엘-하마스 등 전쟁당사자는 각자에게 유리한 정보를 SNS에 퍼뜨리며 전 세계 여론을 둘러싼 '조용한 전쟁'을 벌이고 있다. 확인되지 않은 게시물, 영상, 댓글 하나에 국내외 여론이 흔들리고, 인공지능(AI) 발전으로 대중 선전도 훨씬 쉬워졌다는 평가도 나온다.

플래닛나인(Planet Nine)은 '무기화된 AI로부터 민주주의를 수호한다'고 밝히는 이스라엘 사이버보안 기업이다. 공군 예비역 준장 라미 벤 에프라임이 2020년 창업해 약 15개국에서 AI 조작, 소셜미디어 여론 조작 등을 탐지하는 보안 서비스를 제공한다.

플래닛나인은 25일 서울 강남구 삼성동 트레이드타워에서 열린 '한국-이스라엘 사이버보안 서밋'에 사이버보안 사절단으로 참가했다. 현장에서 <뉴스1>과 만난 플래닛나인의 지주회사 BNF그룹의 야딘 프리탈 싱가포르 지사장은 "정보전쟁에 대한 다층적 방어체계"를 제공한다며 "한국 사이버보안의 모든 영역에 기여할 수 있다"고 강조했다.

다음은 프리탈 지사장과의 일문일답.

-가자전쟁 등 이스라엘 상황이 현재 사업 구상에 영향을 미쳤는가.

▶전쟁이 우리에게 많은 과제를 안겨줬다. 직원 상당수가 전쟁 중에 나라를 돕기 위해 복무했고, 회사의 역량과 생산성이 영향을 받았다. 또 '담론 전쟁'(narrative war)이 발생하면서 이스라엘이 지지받지 못하고 있다. 이스라엘이 글로벌 무대에서 직면하는 반대의 상당 부분은 이스라엘이 하는 일 때문만이 아니라, 공공의 의견을 조작하는 국가 행위자들에 의해 발생하고 있다. 오늘도 인스타그램이 계정 기반 위치를 공개하기 시작했는데, '가자 출신'으로 주장하던 계정 다수가 전혀 다른 지역에서 허위 정보를 올린 것이 드러났다. 이스라엘은 일부 자기 행동 때문이기도 하겠지만, 주로 여론이 이스라엘에 반대하도록 조작됐기 때문에 고립됐다. 이 전쟁은 이스라엘이 시작하지 않았다.

-이스라엘에 대항하는 가짜뉴스 작전이나 여론조작을 발견했다는 것인가.

▶여러 조사에서 증거를 발견했다. 예컨대 미국 내 틱톡의 정서가 이스라엘에 매우 강하게 반대하는 방향으로 바뀌었다는 것을 확인했다. 반이스라엘 담론을 무분별하게 조장하고, 친이스라엘 담론을 억누르거나 억압하고 있었다.

-'민주주의를 보호한다'는 소개 문구는 무엇을 의미하는가.

▶허위 정보가 여론을 조작하거나 영향을 미치고 있다. 시민들을 서로 멀어지게 만들고 증오하게 만든다. 전 세계적으로 발생하는 일이라 확신한다. 알고리즘이 특정 후보를 홍보하기도 한다. 지난해 루마니아에서는 틱톡에서 발생한 대선개입 의혹으로 재선거를 치러야 했다. 우리는 필리핀 등 많은 국가에서 '외부 세력'이 대중을 조작하고 민주주의를 훼손할 수 있음을 확인했다.

-'무기화된 AI(weaponized AI)'의 위협도 강조하는데.

▶AI가 조작되고 무기화되는 방식은 여러 가지가 있다. 예컨대 모두가 사용하는 대규모언어모델(LLM)은 블랙박스와 같아 무엇이 숨겨졌는지 알 수 없다. 어떤 모델은 백인을 흑인보다 선호할 수 있고, 친러시아 담론을 홍보하고 우크라이나 관련 의견을 억압할 수도 있다. 틱톡 등 SNS 내 AI 모델이 사용자에게 불리하게 작동하는 경우도 문제다. 다른 예는 사이버공격이다. 예전에는 고도의 수작업이 필요했지만 지금은 URL 하나만 주고 "필요한 모든 것을 다해 해킹하라"고 말하면, AI 에이전트가 그대로 공격을 수행할 수 있다. AI를 조작하면 해킹 규모를 확대하는 무기가 된다.

-이러한 위협을 어떻게 방어하는가.

▶우리의 솔루션은 대중을 겨냥해 SNS와 웹사이트가 어떻게 조작되는지 파악하는 것이다. SNS 데이터를 수집·분석해 가짜 사용자, 허위 정보, 사칭, 비통상적인 조직적 행동을 찾아낸다. 또 SNS 알고리즘이 국익에 반하는 일부 담론을 조작하거나 밀어붙일 수 있는지를 확인한다. 한편 AI 모델 내부를 조사해 안전하지 않거나 편향된 담론이 있는지 확인한다. LLM은 의견을 가질 수 있으며, 편향성을 드러내거나, 일부 대중을 차별할 수 있고, 국가와 동일한 가치를 공유하지 않을 수 있다.

-스캠(온라인 사기) 방지 솔루션도 있다고 들었다. 동남아시아 스캠 범죄가 한국에서도 큰 논란이 됐는데, 이러한 범죄 대응에도 도움이 되는가.

▶물론이다. 선전 캠페인을 막기 위해 SNS를 살펴보고 가짜 웹사이트를 찾는 시스템들이 스캠 방어에 적용될 수 있다. SNS에서 사용자를 투자 사기, 취업 사기 등으로 유인하는 용의자를 찾아내고, 새로 등록된 도메인 중에서 실제로는 스캠 용도인 웹사이트를 탐지할 수 있다. 단순히 스캠을 퍼뜨리는 사용자인지 판단하는 것을 넘어 누구인지 특정할 수도 있다. 심층 추적으로 유통경로, 전화번호, 은행계좌 등 실질적인 정보를 수사기관에 제공한다. 동남아시아 정부들과 긴밀하게 협력하고 있다.

-회사의 창립자가 전직 이스라엘 공군 장성이라고 알고 있다. 창업 배경이 궁금하다.

▶(군 출신이) 스타트업을 설립하는 것은 이스라엘군 기술 부대 출신들에게는 흔한 일이다. 창업자는 기술 분야 인맥이 매우 탄탄했고, 싱가포르 주재 군사무관으로 근무하며 양국의 기술 네트워크를 조직한 경험이 창업 기반이 됐다. 이스라엘과 싱가포르에서 시작해 미국, 아시아, 유럽 등 다른 국가들과도 협력하고 있다.

-이스라엘은 높은 기술력과 혁신적인 창업 생태계로 잘 알려져 있다. 기업인 관점에서 이스라엘의 가장 큰 강점은 무엇인가.

▶이스라엘 IT계의 특징은 위험을 계산하되 감수하는 용기라고 생각한다. 성공할 때도 있고 실패할 때도 있지만, 위험 감수를 멈추지 않는다. 장점이 될 수도 있고 단점이 될 수도 있다. 그러나 많은 이스라엘인들이 기업가가 돼 위험을 감수하도록 이끄는 동력이다.

jwlee@news1.kr