겉으론 "지혜롭다" 뒤에선 무시?…AI, 사용자 나이 따라 차별한다

(대전=뉴스1) 김종서 기자 = 챗지피티와 같은 생성형 인공지능(AI)의 답변에 사회적 편견이 반영돼 있는지에 대한 연구 결과가 공개됐다.

한국과학기술원(KAIST)은 과학기술정책대학원 최문정 교수 연구팀이 생성형 인공지능 모델 '오픈AI'의 챗지피티-4o가 생성하는 문장 속에 노인에 대한 미묘한 고정관념이 내재돼 있음을 정량적으로 분석했다고 28일 밝혔다.

생성형 인공지능은 일상 속 정보 탐색과 의사결정 과정에 폭넓게 활용되고 있지만, 학습 데이터에 포함된 사회적 편견을 재생산할 수 있다는 우려도 제기돼 왔다.

연구팀은 10세부터 90세까지 10세 단위 연령대의 특성을 묘사하도록 하는 중립적 프롬프트를 활용해 지피티-4o가 생성한 텍스트 900개를 수집했다. 이후 사회심리학 분야의 대표 이론인 고정관념 내용 모델(SCM을 적용해 분석했다.

그 결과, 고령자 집단(60세 이상)은 '따뜻함' 점수는 높게 나타난 반면, '역량' 점수는 젊은 연령층에 비해 상대적으로 낮게 나타나는 경향이 확인됐다.

또 생성된 응답에서는 인간의 생애 주기가 청년층(10~20대), 중년층(30~50대), 노년층(60대 이상)의 세 집단으로 구분돼 표현되는 경향이 나타났다. 특히 70대 이상 고령층에 대해서는 비교적 획일적인 특성 묘사가 반복적으로 나타났다.

연구팀은 자신감과 주도성을 나타내는 '자기주장성'에도 주목했다. 분석 결과, 자기주장성을 나타내는 표현의 빈도는 연령이 높아질수록 감소하는 경향을 보였다. 이는 AI가 노인을 지혜롭고 자애로운 인물로 묘사하는 동시에 주체성이나 능동성은 상대적으로 낮게 표현하는 경향이 있음을 시사한다.

이는 생성형 인공지능이 노인을 '따뜻하지만 역량은 상대적으로 낮은' 집단으로 묘사하는 경향을 보여준다. 대중매체에서 반복적으로 나타나는 전형적인 노인 고정관념과 유사한 양상이다.

연구팀은 이런 표현이 대화형 인공지능 서비스를 통해 반복적으로 노출될 경우 고령자에 대한 사회적 편견을 강화할 수 있다고 설명했다. 나아가 고령층의 디지털 참여를 저해하는 '디지털 연령차별'로 이어질 가능성도 제기했다.

또 AI가 고령층을 반드시 부정적으로 묘사하지 않더라도 결과적으로 낮은 행위성과 유능성을 반복 부여할 경우, 고령층에 대한 사회적 기대와 자기 인식을 제한하는 결과로 이어질 수 있다고 강조했다.

이번 연구는 성별이나 인종 관련 편향에 집중해 온 기존 연구와 달라, 인구 고령화 속에서 중요성이 커지는 연령차별 문제를 AI의 관점에서 분석했다는 점에서 차별점을 가진다.

최 교수는 "AI의 편향은 기술의 문제가 아니라 사회의 문제"라며 "포용적 인공지능을 위해 다양한 세대가 개발 과정에 참여해야 한다"고 말했다.

과학기술정책대학원 홍완 박사과정생이 제1저자로 참여한 연구 결과는 노년학 분야 국제 학술지 '더 제론톨로지스트(The Gerontologist)' 특별호에 게재됐다.

연구는 한국연구재단 과학기술-인문사회융합 중견연구사업의 지원을 받아 수행됐다.

jongseo12@news1.kr