챗GPT, 성애물 허용…AI 윤리·이용자 보호 체계 구축 필요

(서울=뉴스1) 나연준 기자 = 글로벌 인공지능(AI) 기업들이 성적 콘텐츠 관련해 개방적인 서비스 방침을 밝히면서 사회적 파장이 커질 전망이다. 기업들이 유료 구독자 확보 등 수익 중심 전략에만 치중하고 있다는 비판과 함께 AI 윤리, 이용자 보호 체계 구축의 시급성도 제기된다.

샘 올트먼 오픈AI 최고경영자(CEO)는 15일 소셜미디어 'X'를 통해 "'성인 사용자를 성인답게 대우한다'는 원칙으로 인증된 성인에게 에로티카(성애물)와 같은 더 많은 콘텐츠를 허용할 것"이라고 밝혔다.

올트먼은 정신건강 문제에 신중하게 접근하기 위해 챗GPT를 '제한적'으로 만든 것이, 정신건강에 문제가 없는 사용자들의 유용성, 즐거움을 줄어들게 했다고 분석했다.

올트먼은 사용자가 요청하지 않는 경우 성적 콘텐츠에 접근할 수 없다고 부연했지만 구체적인 차단, 인증 방식은 공개하지 않았다.

AI에서 성적 콘텐츠가 논란이 된 것은 이번이 처음은 아니다. 앞서 일론 머스크가 이끄는 AI 기업 xAI도 챗봇 서비스 그록에서 애니메이션 소녀 캐릭터 '애니'(Ani)를 도입해 성 상품화 논란에 휩싸이기도 했다.

AI가 단순한 도구를 넘어 사회에서 관계를 맺어야 하는 주체로 평가되는 시점에서 AI기업들의 이러한 행보는 사회적 논란이 되고 있다. 인류에 도움이 되겠다는 초기 목적과 다르게 수익성을 우선하는 상업화 전략을 펼치고 있다는 비판도 나온다.

김명주 AI안전연구소장은 "오픈AI는 윤리적이고 인류에 도움이 되는 방향으로 출발했지만 투자도 많이 받게 되면서 상업적으로 흐를 수밖에 없게 됐다"며 "앞으로 윤리적으로 문제가 될 수 있다"고 말했다.

미국 매체 악시오스도 "오픈AI의 이번 조치는 유료 구독자를 늘리는 데 도움이 될 수 있다. 하지만 관련 규제 법제화해야 한다는 압박이 입법부에 가중될 수 있다"고 지적했다.

오픈AI의 성애물 허용이 국내에도 도입될지는 미지수다. 하지만 국내에 도입되지 않더라도 다양한 우회 방식으로 서비스에 접근하는 것을 모두 막는 것은 불가능하다. 챗GPT 이용자가 2000만 명을 넘어선 우리나라도 대책을 만드는 것이 필요하다.

김 소장은 "AI를 평가할 때 성인물, 윤리 원칙에 어긋나는가를 다루고 있지만 이것이 규제로 이어지지는 않는다. 현재로서는 음란물, 불법 콘텐츠를 다루는 기존법에 의존해야 한다"며 "(AI) 이용자 보호는 확장되어야 할 것 같다"고 말했다.

최경진 한국인공지능법학회 회장은 사회적 합의에 따른 한국의 기준을 AI가 학습할 수 있어야 성적 콘텐츠로 인한 부작용이 줄어들 수 있다고 했다.

최 회장은 "한국과 미국의 문화, 정서적 차이로 성적 콘텐츠 관련 기준도 다를 수 있다"며 "학습을 통해 합법적인 부분에서 활용될 수 있게 기준을 제시해야 한다"고 말했다.

yjra@news1.kr