검색 본문 바로가기 회사정보 바로가기
> 산업 >

"편견까지 학습하는 AI"…아마존도 채용시스템 폐기

사티아 나델라 MS CEO 방한해 'AI 윤리의식 강조"

(서울=뉴스1) 송화연 기자 | 2018-11-07 17:22 송고
퓨쳐 나우 인공지능 콘퍼런스에서 기조연설을 하고 있는 사티아 나델라 마이크로소프트 최고경영자 2018.11.7/뉴스1 © News1 신웅수 기자
퓨쳐 나우 인공지능 콘퍼런스에서 기조연설을 하고 있는 사티아 나델라 마이크로소프트 최고경영자 2018.11.7/뉴스1 © News1 신웅수 기자

미국 아마존은 지난 10월 인공지능(AI) 기반 채용시스템을 폐기처분했다. 이유는 AI가 성차별적 채용규정을 학습해 '여성 구직자는 적합하지 않다'고 판단했기 때문이다. AI는 과거 10년간의 아마존 이력서를 바탕으로 학습한 탓에 이같은 남성중심적인 사고를 가지게 됐다.

비단 아마존만의 사례가 아닐 수 있다. AI에게 잘못된 내용이나 편견을 학습하면 이같은 결과를 초래할 수 있다. 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 7일 서울 홍은동 그랜드힐튼호텔에서 열린 퓨처나우 인공지능 콘퍼런스'(Future Now AI Conference)에서 AI 기술에서 가장 중요한 것은 '윤리의식'이라는 점을 거듭 강조했다. 

AI는 학습을 통해 발전한다. 빅데이터에서 특정패턴을 추출하는 과정을 반복하면서 기계학습을 통한 예측을 가능하게 만든다. 이런 학습과정을 '딥 러닝'(Deep Learning)이라고 한다.  

나델라 CEO는 "AI 기술은 인간을 돕는 목적으로 설계돼야 한다"면서 "IT기업들은 책임감을 가지고 프라이버시·사이버 보안과 함께 윤리원칙을 지켜야 한다"고 강조했다. 이어 "AI 기술은 인간의 편견까지 배울 수 있다"면서 "모든 개발자와 디자이너들은 공정성, 프라이버시, 보안, 투명성, 포용 등을 배워야 한다"고 말했다.

MS는 아마존과 같은 불상사를 막기 위해 이미 윤리위원회를 구성하고 AI 윤리지침을 만들어 개발자, 디자이너 등 AI 유관부서 직원이 의사결정을 내려야 할 때 적정한 결정을 내릴 수 있도록 교육하고 있다.

그는 "AI 기술이 기업과 일반 시민, 그 중에서도 취약계층을 위해 사용돼야 한다"며 고려대학교 뇌공학과 이성환 교수팀의 사례를 소개했다. 이 교수팀은 MS의 클라우드 컴퓨팅 서비스 '애저'(Azure)를 이용해 '뇌-컴퓨터 인터페이스'를 연구중이다. 

이들의 연구는 팔이 절단된 사람이나 파킨슨병에 걸린 환자가 자신이 생각하는 것을 로봇팔로 움직일 수 있게 한다. 나델라 CEO는 "전세계 장애를 가진 사람이 10억명이지만 그들은 경제에 참여할 기회조차 얻지 못한다"며 "이 교수의 연구는 생각만으로 행동할 수 있게 하는 기술로 AI로 모든 사람이 혜택을 누리게 하는 좋은 예"라고 덧붙였다.

이밖에도 나델라 CEO는 기업이 디지털 트랜스포메이션 하기 위해 '테크 인텐시티(Tech intensity)'를 준비해야 할 때라고 강조했다. 이는 기업이 신기술을 도입해 기업의 고유 경쟁력을 가지라는 의미다. 국내에서 디지털 트랜스포메이션을 이룬 사례로는 삼성전자, 365mc, 카닥의 사례도 소개했다. 

삼성전자는 MS 애저와 사물인터넷(IoT)을 결합한 '에스넷 클라우드 서비스'를 스마트 에어컨에 적용했다. 이 서비스를 통해 에어컨 습도, 온도뿐 아니라 주변 사람에 대한 정보를 수집하고 AI 역량을 구축해 25%의 에너지를 절감했다. 나델라 CEO는 "이러한 디지털 리소스를 통해 물리적 자산과 연결하면 많은 변화를 이뤄낼 수 있다"고 덧붙였다.


hwayeon@

이런 일&저런 일

    더보기