中 챗봇들, 공산당 시험 '열공'…질문 2000개 통과하려 AI 학원도

(런던=뉴스1) 이지예 객원기자 = 중국 공산당이 인공지능(AI) 챗봇을 길들이기 위한 '만리방벽'(Great Firewall·만리장성에 빗댄 방화벽)을 한층 더 높이 쌓아 올리고 있다.

월스트리트저널(WSJ)은 23일(현지시간) 중국이 AI가 공산당 통치를 위협할 수 있다는 우려 속에 챗봇 및 AI 생성 콘텐츠에 대한 이례적인 검열 조치를 잇달아 취하고 있다고 보도했다.

중국 정부는 챗봇이 정치적으로 민감한 콘텐츠를 걸러낸 데이터를 사용하고 출시 전 이념적 검증을 거치도록 하는 규정을 11월 공식화했다.

규제 당국은 알리바바·딥시크 등 중국의 주요 AI 기업들과 협력해 'AI 표준'을 명시한 문서를 발간했다. 겉으로는 권고사항이지만 사실상 모든 중국산 챗봇이 따라야 하는 규칙이다.

이에 따르면 중국 AI 기업은 내용의 96% 이상이 안전하다는 판단을 받은 데이터 소스만 사용할 수 있다. 당국은 '무엇이 안전하지 않은가?'를 놓고 31가지 위험 요인을 명시했다.

첫 번째 위험 요소는 '국가 권력 및 사회주의 체제 전복을 선동하는 모든 내용'이다. 폭력·허위 정보·차별을 조장하고 타인의 초상권을 침해하는 콘텐츠도 위험하다고 적시했다.

중국 챗봇은 출시에 앞서서는 '정치적 시험'을 봐야 한다. 2000개 항목의 질문을 받는데 국가권력 전복 등과 관련한 내용을 유도하는 물음은 95% 이상 답변을 거부해야 한다.

WSJ은 사안을 잘 아는 관계자를 인용해 해당 시험이 워낙 까다롭다보니 대입 시험처럼 AI 기업의 테스트 통과를 지원하는 전문 업체까지 생겼다고 전했다.

중국 당국은 최근 3개월 동안 대대적인 단속 캠페인을 벌여 유해한 AI 생성 콘텐츠 96만 건을 삭제한 것으로 알려졌다. AI를 지진·전염병처럼 국가 비상대응 계획이 필요한 잠재적 위협으로 분류하기도 했다.

WSJ은 중국이 미국에 대한 자국 AI 사업의 경쟁력 유지를 위해 과도한 규제를 원하지 않지만 AI가 제멋대로 굴도록 내버려둘 수도 없는 상황이라고 지적했다.

WSJ은 현재로선 중국 AI 모델이 정치적으로 민감한 주제를 검열하면서도 코딩 등 특정 분야에선 국제적으로 높은 점수를 받고 있다며 "AI 시스템이 정교해질수록 중국 모델이 미국 모델을 따라잡기 어려워질 수 있다"고 분석했다.

중국 당국의 규제에 따른 의외의 이점도 있다. 중국 챗봇은 폭력·음란 콘텐츠 유포나 자해를 유도할 가능성이 작아 일부 지표에서는 안전성이 더 높은 것으로 나타났다.

ezy@news1.kr