AI기본법 하위법…"원자력·의료" 고영향AI는 의무위반시 조사

(서울=뉴스1) 윤주영 기자 = 정부가 인공지능(AI) 산업 육성·규제 근거 모두를 담은 'AI 기본법' 하위법령을 공개했다. 사용자의 기본권·생명 등에 중대한 영향을 끼치는 '고영향 AI' 사업자는 법이 규정하는 의무 위반시 정부 사실조사 등 규제를 받는다.

고영향 AI로는 에너지·보건의료·원자력·교통·교육 등 범위를 최소화했다. 국방·국가안보 목적으로만 이용되는 AI는 의무 대상 예외다.

8일 출범한 대통령 직속 '국가AI전략위원회'는 AI 기본법을 3호 안건으로 상정 후 대통령에게 보고했다.

하위법령은 AI 사업자의 의무 및 적용 대상을 명문화했다. 글로벌 추세를 반영, 최소한의 합리적인 규제를 마련하는 데 초점을 맞췄다.

정부 사실조사를 받는 고영향 AI는 생명·신체·기본권에 중대한 영향을 끼치는 AI 시스템으로 규정됐다. 사업 주체는 위험관리 방안(위험관리조직 운영, 위험관리교육 시행), 이용자보호방안(보안대책, 오작동 방지대책 수립, 제품·서비스 제공 시 고객 피드백 절차 마련) 등을 마련해야 한다.

시행령에 따르면 일반적인 AI 영향평가는 사업자 자율의 영역이다. 하지만 고영향 AI 사업자는 이를 실시·노력할 의무를 진다.

구체적으로 고영향 AI 평가는 △영향대상 식별 △영향대상 기본권 식별 △영향의 내용·범위 △AI사용행태 △위험의 예방·손실의 복구 △개선 방안 등을 반영해야 한다. 제3자 위탁 수행도 가능하다.

또 사업자는 생성형·고영향AI 서비스임을 사전 고지하고, 이를 결과물 워터마크로도 반영해야 한다.

일정 이상의 고성능 AI도 위험 완화 등 안전 의무를 갖는다. 누적 학습량이 10의 26제곱 부동소수점 연산 이상인 시스템 중 고도화한 기술이 적용됐고, 인간 기본권에 영향을 미치는 시스템을 말한다.

이를 서비스하는 주체 역시 △위험식별 방법론 △평가지표 마련 △우선순위·실행 가능성을 고려한 위험 완화 조치 등을 확보해야 한다.

의무 위반에 따른 시정명령 미이행 시 기업 등은 3000만 원 이하 과태료를 부과받을 수 있다. 다만 정부는 과태료를 면제해 주는 계도기간을 운영, 초기 혼란을 최소화한다.

또 이달 중 관계 부처 및 이해관계자와 의견수렴 간담회를 가진다. 이때 하위법령을 보완하고 계도기간을 확정한다.

이 밖에도 기업의 자발적 참여를 유도하고자 안전·신뢰 검·인증 및 영향평가에 인센티브를 부여한다. 내년 지원 예산도 20억 3000만 원으로 설정했다.

한편 산업 지원 근거로는 △R&D 및 표준화 △학습용데이터 구축 △AI 기술 도입·활용 및 중소기업·창업 지원 △산업간 융합 △전문인력 확보 △국제협력 및 해외진출 지원 △데이터센터 시책 마련 등이 있다.

legomaster@news1.kr