AI에게 '얼평' 맡겼더니 피부 검으면 추녀

(서울=뉴스1) 김윤정 기자 = 인공지능(AI)이 선택한 '미인'은 '백인'이었다.

9일(현지시간) 영국 일간 가디언은 인공지능이 심사하는 세계 첫 미인대회에서 선발된 미인 대다수가 백인으로 나타나 논란이 일고 있다고 보도했다.

올 1월 서비스를 시작한 '뷰티.AI'(Beauty.AI)는 100여 개 국가에서 남녀 6000여 명의 사진을 접수받았다. 이어 연령대별로 5~6명씩 총 44명의 미인을 선정했다.

그 결과 미인으로 선정된 44명 중 거의 대부분이 백인이었다. 아시안은 손에 꼽을 수 있는 정도였으며 흑인은 단 한 명이었다. 참가자 중 백인 비율이 높았지만 인도, 아프리카에서도 상당 수 대회에 참가했다.

이에 따라 컴퓨터 알고리즘이 어떻게 기존의 편견을 따르고 때때로 공격적인 결과를 산출해내는가에 대한 논쟁이 불붙고 있다고 가디언이 전했다.

'뷰티.AI'는 청년 실험실(Youth Laboratories)이라 불리는 딥러닝 개발 그룹이 마이크로소프트사의 후원을 받아 개발됐다. 정해진 알고리즘을 바탕으로 방대한 사진 자료를 통해 얼굴을 분석 및 평가하는 것이다.

알렉스 자보론코프 '뷰티.AI' 대표는 인공지능이 이같은 결과를 내놓은 것에 대해 "나도 결과를 보고 놀랐다"며 "데이터 축적 과정에서 충분한 양의 소수 민족 데이터가 포함되지 않았기 때문으로 보인다"고 말했다.

개발자가 알고리즘을 조정한 것은 아니지만 미인 기준 성립이 성립되는 데이터 베이스 구축 과정에 다양성이 확보되지 않았다는 의미다.

이어 자보론코프는 "알고리즘이 특정 패턴을 인식한다면 이는 데이터가 충분치 않거나 그 데이터가 편향됐음을 의미한다"고 말했다. 즉 알고리즘 개발에 관여한 연구진의 잠재된 편견이 인공지능의 편견에 영향을 미칠 수 있다는 것이다.

앞서 지난 3월 마이크로소프트가 내놓은 챗봇 '테이'는 트위터에 인종차별적 언어와 네오 나치의 관점을 보여 문제가 된 바 있다. 페이스북도 뉴스 편집을 인공지능에 맡긴 후 거짓 기사와 저속한 기사들이 뉴스피드를 가득 채워 논란이 일었다.

콜롬비아대 버나드 하코트 교수는 이번 미인대회 결과해 대해 "문제점이 완벽히 드러난 사례"라며 "문화적, 인종적으로 중립적인 미의 기준이 있다는 생각부터 실수"라고 밝혔다.

미디어 정의 센터 대표 맬키아 시릴도 "오염된 데이터에서 오염된 결과가 나온다"며 "우리가 기술과 알고리즘, 머신러닝 등에 과도하게 의존하는 게 문제"라고 말했다.

yjyj@