"AI가 만든 콘텐츠입니다" 네이버도 콘텐츠에 'AI 라벨' 도입

(서울=뉴스1) 손엄지 기자 = 네이버(035420)는 지난달부터 이용자 제작 콘텐츠(UGC)를 올릴 때 인공지능(AI) 생성물임을 표시할 수 있는 아이콘을 추가했다. 딥페이크 방지법 시행에 맞춰 이용자와 함께 신뢰도 높은 콘텐츠 생태계 구축에 나섰다.

20일 정보기술(IT) 업계에 따르면 이달부터 정보통신망법 개정에 따른 '딥페이크 방지법'이 시행되면서 네이버는 선제적으로 'AI 활용' 설정 기능을 도입했다.

지난달 28일부터 네이버는 게시물 작성 시 AI를 활용한 이미지·동영상·오디오 콘텐츠가 포함된 경우 'AI 활용'을 표시할 수 있도록 했다. 블로그, 카페, 네이버TV, 클립 등 주요 UGC 플랫폼이 대상이다.

AI 활용 콘텐츠는 △실제 사람의 얼굴·신체·음성을 AI로 생성하거나 변형한 콘텐츠 △실제로 발생한 상황이나 사건을 AI로 변형한 콘텐츠 △사실적인 콘텐츠를 AI로 생성한 경우 등이다.

네이버 관계자는 "글로벌 AI 기술이 보편화되면서 AI 생성 콘텐츠도 확산하는 추세"라며 "이용자들이 AI가 활용된 이미지, 동영상 등을 구분할 수 있도록 표기를 강화했다"고 말했다.

이어 "네이버에는 많은 이용자들이 이미지, 숏폼, 롱폼 영상 콘텐츠를 활용해 게시물을 업로드하고 있어 건강한 콘텐츠 생태계를 마련해 가기 위해 노력하겠다"고 덧붙였다.

현재는 사용자가 직접 AI 활용 여부를 자율적으로 표기하는 방식이고 강제력은 없다. 네이버는 향후 AI 콘텐츠 감지 기술 고도화에도 나설 계획이다.

유튜브, 인스타그램, 틱톡 등 글로벌 플랫폼은 지난해부터 AI 라벨링 기술을 도입했고, 관련 규정을 강화하는 추세다.

유튜브는 크리에이터가 AI 생성 콘텐츠에 라벨을 지정하지 않거나 가이드라인을 준수하지 않을 경우 콘텐츠 삭제와 수익 창출 중단 등의 제재를 받을 수 있다고 공지했다.

틱톡은 타사 플랫폼에서 제작된 AI 생성 콘텐츠에도 자동으로 'AI 생성' 라벨을 붙이는 정책을 시행하고 있다. 해당 기능은 이미지와 비디오는 물론 오디오 전용 콘텐츠에도 적용했다.

한 IT업계 관계자는 "AI 라벨링이 생성형 콘텐츠 시대의 필수 요소가 될 것"이라면서 "자율적 표기와 감지 기술을 함께 발전시켜야 한다"고 말했다.

eom@news1.kr