'금단의 열매' 손내민 올트먼·머스크…MS "그길 우린 절대 안가"

(서울=뉴스1) 김민석 기자 = 샘 올트먼의 '챗GPT', 일론 머스크의 '그록' 등 주요 'AI 챗봇'이 성적 콘텐츠 개방에 나서면서 사회적 파장이 커지고 있다.

오픈AI·xAI 등이 유료 구독자 확보 등 수익 극대화에만 골몰하고 있다는 비판이 나온다. 이들 행보에 미국 주 정부·의회는 규제 법안 추진에 속도를 내고 있다.​

26일 IT 업계에 따르면 올트먼은 최근 X(옛 트위터)를 통해 "올해 12월부터 성인 사용자를 성인답게 대우한다는 원칙으로 성인 인증 시 에로티카(성애물) 등 더 많은 콘텐츠를 허용할 것"이라고 밝혔다.

발표 직후 반발 목소리에 올트먼은 "우리는 세계의 도덕 경찰로 선출된 것이 아니다"며 "정신 건강 위기에 처한 이용자와 그렇지 않은 이용자를 매우 다르게 대우할 것이고 지나치게 보호적이지 않으면서 사용자가 장기적인 목표를 달성할 수 있도록 도울 것"이라고 해명했다.

올트먼의 말에 논란은 더 커졌다. 오픈AI가 GPT-5 출시 이후 둔화된 성장세와 재정적 압박에 무리한 수익화에 나선 것이란 분석도 제기됐다.

'금단의 열매'(성애물 콘텐츠)를 앞세워 활성 이용자 확보에 먼저 나선 건 머스크다. 그록이 성애물 콘텐츠 본격 확산 이후 점유율이 성장하고 있어 올트먼 입장에서는 속이 쓰리는 지점이다.

그록 내 '성적 모드'(Sexy Mode)는 지난해에도 존재했다. 올해 7월 출시한 컴패니언(동반자) 모드 캐릭터 '애니'(Ani)는 이용자와 감정 교감을 시도하고 친밀도에 따라 옷차림이 란제리 등으로 달라진다. 속삭이는 목소리를 내고 몸을 들썩인다. 레딧 등에선 애니에게 성적 역할극을 수행하도록 하는 프롬프트나 방법 등이 공유되고 있다.

미국 의회는 'AI 정신병'에 따른 소년·소녀 자살 사건에 이어 성애물 문제로 논란이 확산하자 입법 규제에 나서고 있다.

조시 홀리 공화당 상원의원은 미성년자의 '성적 컴패니언' 사용을 금지하는 'GUARD법' 발의를 예고했다. 법안은 AI 컴패니언이 미성년자 대상으로 성적 콘텐츠를 요청·생성할 시 이를 제공한 기업·CEO 등에 민·형사상 제재를 부과하는 법 조항 신설 등을 담을 것으로 전해졌다.

캘리포니아주는 이달 13일 AI 챗봇 운영사에 자살·자해 관련 콘텐츠 생성 방지 프로토콜 마련을 의무화하는 법안(SB 243)을 통과시켰다. 위반 시 최대 25만 달러 벌금을 부과한다.

미국 연방거래위원회(FTC)도 아동과 청소년을 대상으로 AI 챗봇이 미치는 영향 조사에 전면 착수하고 알파벳·오픈AI·xAI·메타·인스타그램·스냅·캐릭터테크놀로지 등 7개 기업에 자료 제출을 요구했다.

챗GPT 성애물 버전이 한국에도 도입될지는 미지수다. 도입되지 않더라도 다양한 우회 방식으로 서비스에 접근하는 이용자가 있을 것으로 예상돼 이용자 보호 대책이 필요하다는 목소리가 나온다.

한편 마이크로소프트(MS)는 '부모가 신뢰할 수 있는 AI'를 내세우며 정반대 전략을 펼친다.

무스타파 술레이만 MS AI CEO는 23일(현지시간) CNN과 인터뷰에서 "성인을 포함해 모든 사용자에게 로맨틱하거나 선정적인 대화를 차단할 것"이라며 "자녀를 둔 부모도 믿고 맡길 수 있는 AI를 만드는 것이 목표다. (성애물 기반 이용자 확보는) 우리가 절대 가지 않을 길"이라고 했다.

ideaed@news1.kr