'자소서 딸깍' 들통난다…빅테크, EU 규제에 AI 텍스트 워터마크 적용

(서울=뉴스1) 이정환 기자 = 유럽연합(EU)이 새로운 인공지능(AI) 규제를 도입하면서 빅테크(거대 기술기업)들이 AI 생성 텍스트에 '워터마크' 기술을 적용하기 시작했다고 13일(현지시간) 폴리티코 유럽판이 보도했다.

EU는 이달부터 EU 시장에 출시된 생성형 AI 모델이 이미지, 음성, 영상, 텍스트 등 AI 생성 콘텐츠에 워터마크나 메타데이터 등 기계가 판독할 수 있는 표시를 넣도록 하는 'AI법'(AI Act)의 핵심 조항을 적용하기 시작했다.

온라인 이용자가 자신이 소비하는 콘텐츠가 AI의 제작물인지 인간의 창작물인지를 알 수 있어야 한다는 취지다.

오픈AI와 앤트로픽 등 글로벌 AI 기업들은 이번 EU 규제에 협조하겠다는 뜻을 밝혔다. 앤트로픽은 지난 10일 블로그 게시물을 통해 AI 모델 '클로드'가 생성한 AI 텍스트에 워터마크를 추가할 것이라고 발표했다.

앤트로픽은 워터마크가 "눈에 보이지 않으며 클로드 답변의 의미·품질·가독성을 변화시키지 않는다"며 "워터마크가 텍스트의 일부이기 때문에 다른 곳으로 복사하여 붙여 넣어도 텍스트와 함께 이동한다"고 밝혔다.

오픈AI는 이미 구글 산하 AI 기업 '딥마인드'가 개발한 AI 워터마크 기술 '신스ID'(SynthID)를 활용해 AI 생성 이미지와 오디오에 투명 워터마크를 적용하고 있다.

오픈AI는 "사람들이 온라인에서 보는 콘텐츠가 AI로 제작되거나 편집됐는지 여부를 포함해 해당 콘텐츠에 대해 더 명확한 맥락을 파악할 수 있어야 한다"고 약속했다.

양사는 원본 메타데이터를 저장하기 위해 '콘텐츠 출처·진위 확인을 위한 연합'(C2PA)라는 단체가 개발한 업계 표준도 함께 보급했다.

최근 AI 기술의 발전으로 실제와 구분하기 어려울 정도로 정교한 콘텐츠가 난립하면서 전 세계적인 문제가 되고 있다. 그간 사용자들은 온라인에서 AI 생성 콘텐츠 여부를 확인하기 위해 검증된 기술 없이 추측에 의존해야 했다.

이번 규제는 온라인 이용자가 AI 생성 콘텐츠를 경험하고 소비하는 방식을 근본적으로 바꿀 수 있다는 평가가 나온다.

케임브리지 대학교 연구원 월터 파스콰렐리는 "사람들이 특정 콘텐츠가 AI로 생성됐다는 사실을 알게 되는 순간 참여도가 크게 떨어진다는 증거가 다수 존재한다"며 규제가 'AI 슬롭'(AI 저품질 콘텐츠)를 줄이는 계기가 될 수 있다고 폴리티코에 전했다.

이번 규제는 EU가 설정한 역내 시장 규제가 전 세계로 확산하는 '브뤼셀 효과'의 또 다른 사례가 될 가능성이 있다. 앞서 EU가 개인정보 보호와 유해 콘텐츠 규제를 위해 시행한 '개인정보보호법'(GDPR) 역시 전 세계에 파급효과를 불러왔다.

jwlee@news1.kr