(서울=뉴스1) 김민석 기자 = 오픈AI가 최근 3개월간 탐지·차단한 챗GPT 악용 사례를 분석한 결과 10건 중 4건은 중국과 연계된 계정인 것으로 나타났다.
북한 연계 추정 IT 인력 계정들은 미국·유럽 기업에 취업하기 위해 챗GPT로 가짜 이력서를 생성한 것으로 탐지됐다.
25일 IT 업계와 외신에 따르면 오픈AI는 챗GPT를 악용해 정보 조작과 사이버 공격 활동을 벌인 중국·북한·러시아 연계 추정 계정을 차단했다.
오픈AI는 악의적 AI 사용 사례 10건을 담은 'AI 악용 방지 6월 보고서'를 발간하고 △소셜 엔지니어링 △사이버 스파이 △기만적 기업 침투(고용) 계획 △은밀한 영향력 작전 등의 사이버 위협을 경고했다.
보고서에서 북한과 연관된 것으로 추정된 공격그룹은 챗GPT를 활용해 가짜 이력서와 프로필, 자기소개서 등을 생성했다. 이들은 비즈니스 소셜미디어 인력으로 위장하는 프로필 생성에도 챗GPT를 적극 활용했다.
이들은 기업이 화상 면접을 요청하면 계정 대리인 얼굴을 제시하며 기술적 문제(통신 장애 등)를 이유로 음성 통화 및 비대면 면접을 유도했다. 면접 질문에는 챗GPT를 활용해 답변했다.
중국과 연계된 것으로 추정되는 계정들은 틱톡·X(옛 트위터)·레딧·페이스북 등 플랫폼에 영어·중국어·우르두어로 댓글을 생성했다.
오픈AI는 이를 '엉클 스팸'(Uncle Spam) '스니어 리뷰'(Sneer Review) 등으로 명명했다. 이들은 △미국 국제개발처(USAID) 폐쇄 관련 찬반 댓글 작성 △대만의 중국 공산당 비판 게임 이슈화 △여론전 성과 보고서 작성 등에 챗GPT를 활용한 것으로 나타났다.
러시아어를 사용한 계정들은 챗GPT를 코딩 어시스턴트로 활용해 윈도 악성코드를 반복적으로 생성·배포했다. 일부 계정은 올해 독일 선거 개입을 목적으로 미국과 NATO 비판 메시지, 독일을 위한 대안(AfD) 정당 지지 콘텐츠 등을 AI로 제작해 텔레그램과 X에 유포했다.
오픈AI는 보고서를 통해 악의적 활동 탐지·차단의 핵심 목표는 권위주의 정부가 AI 도구를 사용해 권력을 축적하거나 시민을 통제하지 못하도록 방지하는 것이라고 언급했다.
보고서는 "자체 AI 모델인 '포스 멀티플라이어'로 사회공학적 공격, 사이버 스파이 활동, 기만적 고용 계획, 은밀한 영향력 작전, 사기 등 악의적 활동을 효과적으로 탐지·차단하고 있다"며 "민주적 AI를 구축해 AGI (인공일반지능)가 모든 인류에게 도움이 되도록 하는 것이 우리의 사명"이라고 강조했다.
ideaed@news1.kr
