"AI가 사람 대신 결정해도 되나"…정부, 7대 AI 윤리원칙 제시

(서울=뉴스1) 유수연 이기범 기자 = 기업이 인공지능(AI)을 활용해 사람을 채용하거나 평가할 때 어디까지 판단을 맡겨도 될까. AI가 허용된 권한을 벗어나 행동한다면 개발자와 서비스 제공자는 어떻게 대응해야 할까.

정부가 이처럼 AI를 개발하고 이용하는 과정에서 마주할 수 있는 문제를 판단할 '대한민국 인공지능 윤리원칙'을 내놨다.

24일 과학기술정보통신부에 따르면 정부가 제정한 대한민국 인공지능 윤리원칙은 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성 등 7대 원칙을 담았다.

정답을 일률적으로 정하기보다 AI를 개발·제공하는 기업부터 이를 이용하는 개인까지 각자가 판단할 때 고려해야 할 공통 기준을 제시한 것이다.

AI 윤리원칙의 기본 대원칙은 AI가 자율적으로 처리하더라도 '인간'이 판단의 중심에 있어야 한다는 점이다.

기업이 AI를 채용이나 인사평가 등에 활용하는 경우가 대표적이다. AI가 사람을 대신해 지원자를 평가할 수 있지만 중요한 판단을 AI에 전적으로 맡기기보다 인간의 자율성과 의사결정을 지원하는 방향으로 활용해야 한다는 게 '인간중심성' 원칙이다.

필요한 경우 사람이 AI의 작동에 개입하거나 이를 중단할 수 있는 수단도 마련해야 한다.

AI가 사람을 평가하는 과정에서 성별이나 연령 등 특정 특성이 부당한 차별로 이어지는지도 살펴야 한다. '공정성·포용성' 원칙에 따라 AI에 사용되는 데이터와 알고리즘의 편향을 지속해서 점검하고 완화해야 한다.

개인정보를 AI에 무분별하게 입력하거나 학습에 활용해서도 안 된다. '프라이버시 보호' 원칙은 개인정보를 정해진 목적을 달성하는 데 필요한 범위에서 처리하고 정보 주체의 권리를 보장하도록 요구한다.

AI가 예상하지 못한 행동을 하거나 공격받는 상황에 대비하는 것도 개발자와 서비스 제공자의 몫이다.

'안전성' 원칙에 따라 AI가 초래할 수 있는 위험 수준에 맞는 안전조치를 마련하고 오남용과 외부 공격 등에 대비해야 한다.

'신뢰성'은 AI가 의도한 목적과 허용된 권한 범위에서 안정적으로 작동하는지를 지속해서 확인하도록 하는 원칙이다. 문제가 발생하면 원인을 파악하고 재발 방지 조치를 취할 수 있어야 한다.

AI가 어떤 과정에서 활용되고 있는지 알리는 '투명성'도 요구된다. AI 이용 사실과 AI가 내놓은 결과에 영향을 미치는 주요 요소 등에 대해 이용자가 이해할 수 있도록 필요한 정보를 제공하는 방식이다.

문제가 발생했을 때 책임 주체를 분명히 하고 피해를 구제할 수 있도록 노력하는 것은 '책임성' 원칙에 해당한다.

이번 윤리원칙은 AI를 만드는 기업뿐 아니라 이를 사용하는 개인도 책임 있는 AI 활용의 주체로 명시했다.

이용자는 AI가 내놓은 결과를 그대로 받아들이기보다 스스로 검토하고 과도하게 의존하지 않아야 한다.

자신뿐 아니라 다른 사람의 권리도 고려해야 한다. 다른 사람의 개인정보를 AI에 함부로 입력하거나 AI를 이용해 타인에게 피해를 주는 행위 등을 경계해야 한다는 취지다.

AI를 업무에 활용하는 기업·기관도 이용자에 해당할 수 있다. AI 서비스를 직접 개발하지 않았더라도 이를 채용이나 평가, 의사결정 등에 활용한다면 AI 결과가 개인과 사회에 미치는 영향을 살펴야 한다.

정부가 국가 차원의 AI 윤리 기준을 다시 정비한 것은 2020년 '인공지능 윤리기준'을 마련한 지 6년 만이다.

그 사이 생성형 AI가 일상과 산업 현장으로 빠르게 확산하면서 과의존과 노동 감시, 일자리 변화, 저작권과 AI 표절 등 기존 기준만으로 판단하기 어려운 문제도 늘었다.

이번 윤리원칙은 AI 기본법이라는 법적 규범이 마련된 상태에서 별도의 연성규범을 제정했다는 점에서도 차이가 있다.

AI 기본법을 통해 반드시 지켜야 할 사항을 법으로 규율하고 법으로 일일이 강제하기 어려운 영역에서는 윤리원칙을 통해 AI 개발·활용 과정에서 참고할 방향을 제시하는 구조다.

국가 차원의 AI 윤리 기준은 유럽연합(EU), 영국, 일본, 카타르 등에서도 마련됐지만 정부는 AI 기본법이 존재하는 상태에서 별도의 국가 AI 윤리규범을 마련한 것은 한국이 처음이라고 설명했다.

최우석 과기정통부 인공지능안전신뢰지원과장은 "기본법이 있는 상태에서 윤리 규범을 만든 건 우리나라가 최초"라며 "법과 연성규범인 윤리원칙의 역할을 어떻게 구분해서 국가 AI 정책을 운영할지 고민 중인 국가들이 많을 텐데 첫 사례가 된 것"이라고 말했다.

다만 윤리원칙 자체에는 법적 구속력이 없다. 기업이나 이용자에게 새로운 법적 의무를 부과하거나 위반에 따른 제재를 하는 규제가 아니며 법령을 대체하지 않는다.

실제 현장에서 적용할 세부 기준은 앞으로 구체화한다. 정부는 사례 중심 해설서와 분야별 자율점검표를 마련하고 각 분야의 특성을 고려한 세부 기준은 관계 부처의 가이드라인 등을 통해 제시할 계획이다.

shushu@news1.kr