"고영향AI 영역 구체화해야" 인권위, 인공지능기본법 보완 촉구

(서울=뉴스1) 유채연 기자 = 국가인권위원회(인권위)가 내년 1월 22일 시행을 앞둔 '인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법'(인공지능기본법)과 관련해 과학기술정보통신부 장관에게 시행령의 보완이 필요하다는 의견을 제시했다.

21일 인권위는 "AI의 개발·이용 전 과정에서 인간의 존엄성 등 인권을 실질적으로 보호할 수 있는 법·제도적 기반을 함께 마련하는 것이 중요하다"며 이같이 밝혔다.

인공지능기본법은 국민의 권익과 존엄성을 보호하고 국민 삶의 질 향상과 국가경쟁력을 강화하기 위한 목적으로 제정됐다. 과기정통부는 관련해 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령 제정안'을 제정해 입법예고 중이다.

인권위는 인공지능기본법 제2조에서 대통령령으로 정하도록 규정하는 '고영향 AI'를 시행령안에서 구체적으로 규정해야 한다고 말했다.

책무를 부여받은 AI 사업자가 개발 초기 단계부터 법적 기준과 책임 범위를 명확히 예측할 수 있도록 하는 목적이다.

이어 관련 규정을 마련하기 전까지는 잠재의식 조작 등 인간 존엄성을 본질적으로 침해할 우려가 있는 AI를 시행령상 '고영향 AI' 영역에 포함해 관리해야 한다고 했다. 이런 과정에서는 EU의 AI 법을 참고할 필요가 있다고도 봤다.

또 인권위는 AI 사업자가 보호해야 하는 '이용자'에 채용회사, 병원, 금융기관 등은 포함되지만 구직자, 환자, 대출 신청자 등은 포함되지 않는 점도 지적했다.

그러면서 "실제로 기본권에 중대한 영향을 받는 구직자·환자·대출 신청자 등에 대한 보호조치가 법령상 공백"이라고 했다.

이외에도 인권위는 국방 또는 국가안보 목적이 아닌 AI에 대해서도 법 적용을 예외로 하지 않도록 법 적용의 제외 대상이 되는 AI를 제한할 필요가 있다고 했다.

또 안전성 확보 의무 기준의 범위를 넓히고 관련 문서 보관기간을 10년으로 연장하는 등 국민 기본권 보호를 위한 방침을 제안했다.

인권위는 "AI가 제공한 분석이나 판단 결과에 오류 또는 편향이 존재하고 이러한 결과가 실제 의사결정에 활용될 경우, 영향은 단순한 기술적 문제를 넘어 헌법이 보장하는 인간으로서의 존엄과 가치, 평등권, 사생활의 비밀과 자유 등을 직접적으로 침해할 위험이 있다"고 밝혔다.

kite@news1.kr