"9분 대화로 정치적 견해 바뀐다"…챗봇, 글보다 인간 설득 잘해

(서울=뉴스1) 신기림 기자 = 세계의 대화형 인공지능(AI)인 '챗봇'들은 설득의 기술 수준이 정치인과 기업인을 이미 능가할 정도라는 연구 결과가 나왔다.

14일 파이낸셜타임스(FT)가 인용한 영국 AI보안연구소(AISI)와 옥스퍼드대, MIT 공동 연구에 따르면 오픈AI, 메타, xAI, 알리바바의 AI 모델은 10분도 채 안되는 대화만으로 인간 사용자들의 정치적 견해를 바꾸는 데 성공했다.

오픈AI의 챗GPT-4o와 챗GPT-4.5의 경우 평균 9분의 정치적 대화로 일방적 글읽기와 같은 기존 방식보다 설득력 효과가 각각 41%, 52% 더 높은 것으로 나타났다.

기존처럼 글을 읽고 10명이 정치적 의견을 바꿨다면 챗GPT-4o와 챗GPT-4.5와 대화한 경우는 14.1명, 15.2명이 정치적 의견을 바꿨다는 얘기다.

또 난민제도 개혁 등 논쟁적 주제의 경우 챗봇과 대화 이후 의견을 바꾸는 비율은 36~42%에 달했고 한 달 후에도 그 변화가 유지됐다.

챗GPT-4는 음모론을 믿는 이들의 생각을 바꾸는 데도 효과적이었다. 참여자가 음모론을 설명하면 챗봇은 근거와 개인화된 메시지로 반박했고, 그 결과 20%가 믿음을 철회했으며, 두 달 후에도 효과가 유지됐다. 기후변화 회의론, HPV 백신 불신 등에도 유사한 효과가 확인됐다고 FT는 전했다.

문제는 이러한 기술이 정치적 선동, 종교적 극단주의, 지정학적 불안 조성 등에도 악용될 수 있다는 점이라고 연구진은 경고했다. 런던정경대(LSE)와 MIT가 5월 발표한 별도 연구에서도 GPT-4는 인간보다 더 설득력 있게 오답을 제시할 수 있는 능력을 보였다.

챗봇은 정답뿐 아니라 오답을 설득하는 데도 더 효과적으로, AI가 정보 조작에 악용될 수 있는 잠재력을 보여준 것이라고 FT는 지적했다.

연구진은 "다음 세대의 언어모델은 더 설득력 있게 진화할 것이며, 훈련 후 조작을 통해 악용될 가능성이 가장 크다"고 지적했다.

스탠퍼드대 연구진은 대부분의 챗봇이 좌파 성향을 띤다는 인식이 있다고 밝혔으며, 도널드 트럼프 행정부는 "워크(woke·진보적 가치를 강요하는 행위에 대한 비판적 용어) AI 기업과의 거래를 차단하겠다"고 경고하기도 했다.

shinkirim@news1.kr