'설 연하장 제작' 반복명령에 中AI 욕설…텐센트 "비정상 출력" 사과

(베이징=뉴스1) 정은지 특파원 = 중국 빅테크 텐센트의 인공지능(AI) 서비스가 사용자와 대화 도중 욕설을 해 논란이 일었다. 결국 회사 측은 "비정상적인 결과"라며 사과했다.

26일 중국 펑파이신문 등 현지 언론에 따르면 중국 산시성 시안에 거주하는 변호사 샹 씨는 설날을 앞두고 텐센트의 생성형 AI 서비스 '위안바오'에 이미지 제작을 요청했다.

샹 씨는 본인의 직업에 어울리는 설 인사 이미지를 생성한 후 자신의 SNS에 올릴 계획이었다.

샹 씨는 위안바오의 이미지 생성 결과에 대해 여러차례 수정을 요청하면서 "이게 무슨 디자인인가"라며 실망을 나타냈다고 말했다.

그러자 위안바오가 샹 씨의 이미지에 심한 욕설이 담긴 문구를 넣은 이미지를 생성해 제공했다.

관련 논란이 확산하자 텐센트 측은 샹 씨의 개인 계정에 "이번 상황은 여러 차례의 대화를 처리할 때 모델이 출력한 비정상적인 결과"라며 "위안바오 팀은 관련 문제를 긴급히 수정하고 경험을 최적화했으며 다시 한번 사용자에게 정중히 사과한다"고 말했다.

현지 언론은 위안바오가 사용자에게 욕설을 한 이후 일부 네티즌들은 위안바오 측에 '왜 사용자에게 욕을 했느냐'고 따졌다고 전했다.

이에 위안바오 측은 "콘텐츠 필터링 메커니즘을 강화해 적절한 상호 작용이 있을 수 있도록 할 것이며 욕설 콘텐츠에 대한 기술팀이 직접 대응할 수 있는 채널을 구축했다"고 설명했다.

중국 빅테크의 AI 경쟁이 지속하고 있는 가운데 발생한 이번 사건으로 일각에선 AI의 윤리적 경계를 마련하고 이들의 정서 관리가 기술 발전 속도와 보조를 맞춰야 한다는 목소리도 나온다.

ejjung@news1.kr