中, 첫 'AI 재판규칙' 마련…"AI환각 방치·빅데이터 바가지 규제"

(베이징=뉴스1) 노민호 특파원 = 중국 사법부가 딥페이크와 생성형 인공지능(AI) 관련 분쟁에 적용할 첫 사법재판 기준을 마련했다.

8일 중국 최고인민법원에 따르면 전날 '인공지능 관련 분쟁 사건의 법에 따른 심리에 관한 의견'을 발표했다.

타오카이위안 최고인민법원 부원장은 기자회견에서 "국가 최고심판기관이 발표한 첫 AI 관련 사법재판 규칙 문건"이라고 밝혔다. 의견은 5개 분야, 총 24개 조항으로 구성됐다.

현재 중국에는 AI를 포괄적으로 규율하는 별도의 '인공지능법'이 없다. 타오 부원장은 민법전과 사이버보안법, 저작권법, 개인정보보호법 등 현행 법률을 토대로 AI 관련 분쟁에 대한 재판 기준을 마련했다고 설명했다.

우선 당사자 동의 없이 AI로 특정인의 얼굴이나 목소리를 합성하는 행위에 대한 책임 기준을 제시했다.

다른 사람의 이름이나 얼굴 등을 이용해 특정인을 식별할 수 있는 가상 인물을 만들어 사용·공개하면 성명권이나 초상권 침해로 판단할 수 있다.

또한 동의 없이 목소리를 AI 학습에 사용해 음색이나 억양 등을 모방한 합성 음성을 만드는 행위도 권리 침해에 해당할 수 있다. 이를 이용한 허위 발언으로 당사자의 사회적 평가를 떨어뜨리면 명예권 침해 책임도 물을 수 있다.

생성형 AI가 사실과 다른 내용을 만들어내는 이른바 'AI 환각'에 대한 책임 기준도 마련했다.

AI가 만든 내용이 타인의 인격권을 침해하고 피해자가 이를 알렸는데도 서비스 업체가 필요한 조치를 하지 않았다면 법적 책임을 질 수 있다.

반대로 이용자가 고의로 타인의 권리를 침해하는 내용을 만들도록 AI에 지시한 경우에는 이용자에게 책임을 물을 수 있다.

중국에서 '빅데이터 바가지'(大数据杀熟)로 불리는 알고리즘 가격 차별도 규제 대상에 포함됐다.

이는 플랫폼이 구매·검색 기록이나 소비 성향 등을 분석해 같은 상품이나 서비스에도 이용자별로 다른 가격이나 거래 조건을 제시하는 것을 말한다.

예컨대 같은 시간·구간의 차량 호출이나 동일한 상품인데도 이용 기록 등을 근거로 특정 이용자에게 더 비싼 가격을 제시하는 경우다.

법원은 이처럼 알고리즘을 이용해 소비자별로 거래 조건을 불합리하게 차별해 피해를 입혔다면 사업자에게 손해배상 책임을 물을 수 있다고 했다.

소송 과정에서 AI를 사용할 때의 책임도 규정했다.

AI로 작성한 소송 문서나 판례 검색 자료를 제출할 경우 관련 법률과 판례가 실제 존재하는지 직접 확인해야 하며, "AI를 이용했다"는 사실도 법원에 밝혀야 한다.

또한 AI로 허위 증거를 만들거나 사실관계를 조작해 허위 소송을 제기하면 벌금이나 구류를 부과하고 범죄에 해당할 경우 형사책임도 물을 수 있다.

최고인민법원은 다만 AI 기술과 산업이 아직 발전 단계에 있는 만큼 책임 범위를 지나치게 확대해서는 안 된다고 강조했다.

또한 "이번 의견만으로 모든 AI 관련 분쟁을 포괄할 수는 없다"며 향후 재판 경험을 토대로 관련 기준을 추가로 마련할 방침이라고 밝혔다.

ntiger@news1.kr