중국, 인간과 상호 작용하는 AI 감독 강화…중독 위험 관리 주력

(서울=뉴스1) 신기림 기자 = 중국의 사이버 감시 당국이 인간과 유사한 상호작용을 하는 인공지능(AI)에 대한 과몰입을 방지하는 규제 초안을 내놓았다.

중국국가인터넷정보판공실(CAC)이 27일 공개한 AI 서비스에 대한 감독을 강화하는 규제안은 사용자를 보호하고 중독 방지를 의무화한다. 또 사용자의 심리적 위험을 관리하는 기업의 책임을 규정하며 콘텐츠 가이드라인을 포함한다.

이번 규제는 소비자 지향적 AI 기술이 급격히 확산됨에 따라 발생할 수 있는 안전 및 윤리적 문제를 정부 차원에서 관리하겠다는 의지를 보여준다고 로이터는 설명했다.

규제 대상은 인간의 인격을 모사하거나 사용자와 정서적으로 교류하는 모든 AI 제품과 서비스다. 또한 텍스트와 이미지뿐만 아니라 오디오와 비디오 등 다양한 매체를 통해 사용자와 감정적인 상호작용을 시도하는 서비스도 규제 대상이다.

규제안은 서비스 제공자가 사용자의 과도한 몰입을 방지해야 한다고 명시한다. 기업은 사용자에게 AI 서비스의 과도한 사용에 대한 경고를 지속적으로 전달해야 한다.

특히 사용자가 AI 서비스에 중독된 징후를 보일 경우, 즉각적으로 개입하여 이를 중단시키거나 제한하는 조치를 취해야 할 의무가 부여된다.

기업은 AI 제품과 서비스의 전체 수명 주기 동안 발생할 수 있는 심리적 위험을 관리해야 한다. 사용자의 감정 상태와 서비스 의존도를 정기적으로 평가하고 파악하는 시스템을 구축해야 한다.

만약 사용자가 극단적인 감정 상태를 보이거나 강한 의존성을 나타낸다면 제공업체는 적절한 개입 수단을 마련해야 한다. 동시에 알고리즘 검토와 데이터 보안, 개인정보 보호를 위한 체계적인 시스템 운영도 요구된다.

또 AI가 생성해서는 안 되는 콘텐츠의 한계선인 '레드라인'이 설정됐다. AI 서비스는 국가 안보를 위협하거나 유언비어를 퍼뜨리는 내용을 생성하고 폭력이나 음란물을 조장하는 행위도 엄격히 금지된다. 모든 서비스 제공자는 이러한 가이드라인을 준수하며 사회적 안정을 해치지 않는 범위 내에서 운영해야 한다.

shinkirim@news1.kr