박윤규 과기정통부 2차관 이스트소프트 찾아…"윤리·신뢰성 확보 중요"

(서울=뉴스1) 윤지원 기자 = 과학기술정보통신부는 박윤규 제2차관이 인공지능(AI) 윤리·신뢰성 강화를 위한 산업 분야 별 대표 기업 연속 현장 방문의 일환으로 이스트소프트(047560)에 방문했다고 28일 밝혔다.

이스트소프트는 실사 기반의 'AI 휴먼'을 생성해 방송·금융·교육 등과 관련한 영상 콘텐츠를 제공하는 기업이다.

자체적으로 수립한 5대 AI 윤리강령을 AI 휴먼 개발 및 활용 과정에 적용하고 있다. 5대 강령은 △인간을 존중하는 AI △사회에 공헌하는 AI △공정한 AI △윤리적 AI △안전한 AI 등이다.

정상원 이스트소프트 대표는 AI 휴먼 개발에 챗GPT를 활용해 이용자와 실시간 질의응답이 가능하도록 하되 '환각(Hallucination) 현상'을 완화하기 위해 신문기사와 뉴스 등 사실에 입각한 데이터를 활용하고 있다고 밝혔다.

또 AI 휴먼이 사람으로 오인되지 않도록 이용자들에게 AI 휴먼과 대화하고 있음을 표시한다고 덧붙였다.

생성형 AI가 딥페이크 등에 활용돼 사회적 문제를 양산할 수 있는 우려에 대응해 AI를 활용한 생성물 여부를 탐지하는 기술 개발을 추진하고 있다고도 밝혔다.

박 차관은 "AI 휴먼은 사람과 직접 소통하고 언행에 영향을 미칠 수 있다는 점에서 인공지능 윤리·신뢰성 확보가 특히 중요한 영역"이라며 사업자의 윤리·신뢰성 확보 노력을 독려했다.

g1@news1.kr