AI는 양심이 없다© 뉴스1

김명주 서울여대 교수가 인공지능(AI)이 우리에게 이미 던져준 숙제와 앞으로 던져줄 이슈를 사례별로 정리한 'AI는 양심이 없다'를 펴냈다. 김 교수는 국내 최초로 '인공지능 윤리 가이드라인'를 작성한 바 있다.

저자는 미래에 AI에게 배신당하지 않고 함께 살아가려면 어떻게 해야 할지, 지혜를 찾고자 했다. 이 지혜를 '윤리'라는 단어 안에 함축했다. 윤리는 가치 판단의 기준으로 사람에게 요구되며 사람만이 가지고 있는 '양심'으로 인해 발현한다. 인공지능은 '양심'이 없기 때문에 윤리적인 문제가 발생할 수밖에 없다. 작년 발생한 AI 챗봇 '이루다' 사건이 대표적이다.

AI 개발 단계부터 발전 방향을 올바르게 잡고 사회적 담론을 최대한 형성해야 한다. 인공지능으로 인해 사회적 대전환이 시작되면 부작용과 역기능, 심지어 심각한 위험성이 드러난다고 해도 다시 원래로 되돌리는 것이 불가능하다.

1장 '죽음을 흔드는 AI'에서는 고인이 남긴 디지털 흔적과 디지털 유산을 통해 디지털 부활이 시작되었고 이로 인해 사후 디지털 고용과 명예훼손, 사자의 퍼블리시티권과 경제적 이득, 프로파일링과 잊힐 권리, 사망자 계정과 사후 프라이버시 등 고인의 죽음을 흔드는 AI의 문제를 다룬다.2장 '존재를 흔드는 AI'에서는 가상 인플루언서, 가상 아나운서, 가상 가수, 아바타와 메타버스 등 존재하지 않는 존재인 가상 인간의 출현과 이로 인해 발생하는 신뢰성 문제와 디지털 윤리에 대해 논한다.

3장 '신뢰’를 흔드는 AI'에서는 이루다와 알파고부터 시작하여 왓슨, 콤파스, 버추얼휴먼, 휴머노이드, 자율주행차 등 4차 산업혁명의 핵심 신기술인 인공지능이 가져온 혁신의 이면에 드러난 차별과 편견, 의인화와 위조, 적대적 공격과 불신 등 윤리적 문제에 대한 불안과 걱정을 다룬다.

마지막 4장 '흔들림 너머 AI 바로 보기'에서는 인공지능에게 왜 윤리가 필요한지, 처음 시작 단계에서는 법보다 올바른 윤리가 먼저 형성되어야 하는지 당위성을 설명하며 구체적이고 현실적인 대안으로써 ‘인공지능 윤리’의 원칙과 각 분야에서 적용해야 할 윤리 기준들이 무엇인지 제시한다.

특히 인공지능의 특성을 기반으로 도출된 'PACT'를 강조한다. △'공공성'(Publicness) △책무성'(Accountability) △'통제성'(Controllability) △'투명성'(Transparency) 등 네 가지 기본 원칙을 출발점으로 구체적인 인공지능 실무지침과 법률 등을 제시했다.

또한 4차 산업혁명 시대에는 모든 구성원이 인공지능 이용에서 갖춰야 할 시각과 자세를 미리 알아둬야 한다면서 독자들에게 "인공지능 시대에 나는 어떻게 생각하고 준비하며 행동해야 할까"라는 질문에 대한 밑그림을 그려보기를 제안한다.

저자 김명주 교수는 서울대학교 컴퓨터신기술공동연구소 특별연구원을 거쳐, 서울여자대학교에 교수로 부임하여 올해로 27년째를 맞는다. 또한 인문학 및 사회과학 전문가들과 함께 2018년 국내 최초로 '인공지능 윤리 가이드라인 Seoul PACT를 만들기도 했다. 이 공로로 정보문화의 달에 근정포장 훈장을 받은 바 있다.

◇ AI는 양심이 없다/ 김명주 지음/ 헤이북스/ 1만8800원


art@news1.kr