AI기본법 하위법령 '규제 최소'…고영향AI는 통제

(서울=뉴스1) 김정현 기자 = 정부가 오는 2026년부터 시행되는 'AI기본법' 관련 하위법령으로 필요최소한의 규제 사항만 규정하겠다는 방침을 제시했다. 규제보다는 진흥에 무게를 두되, AI 활용의 안전성을 위해 고영향AI에는 관련 의무를 부여할 계획이다.

과학기술정보통신부는 17일 AI기본법 하위법령 제정방향 기자 간담회를 열고 AI 경쟁력 강화를 위해 법률 규정을 구체화·명확화해 하위법령을 제정하겠다고 밝혔다.

정부는 시행령에서 AI기본법의 적용범위와 거버넌스, AI산업 육성, 안전·신뢰, 안전성, 고영향AI, AI영향평가 등의 내용을 명확히 했다.

먼저 AI기본법의 적용범위를 국방·국가안보 목적으로만 이용되는 AI를 제외한 AI로 구체화 했다. 국가AI위원회를 '국가AI전략위원회'로 명칭을 변경하고 국가AI전략위원회의 기능을 강화하는 내용의 설치규정도 반영했다. R&D 데이터 구축, AI 도입 및 활용 등 AI 산업 육성을 위한 정부 지원 근거 규정도 마련했다.

또 사업자들의 AI 활용의 투명성과 안전성을 확보하기 위한 의무를 규정하고, '고영향AI'의 판단 기준도 반영했다. 생성형·고영향AI 이용자에게 사전고지 및 결과물 표시(워터마크) 의무를 시행령으로 부여한다.

약관 및 사용자인터페이스(UI)를 통한 사전고지 및 비가시적 워터마크도 인정하기로 했다. 사업자 내부 업무용 AI나 생성형·고영향AI 기반이 명백한 경우 투명성 의무도 면제한다. 딥페이크 결과물은 이용자 연령·신체적 조건 등을 고려해 고지하거나 표시하게 했다.

누적학습량이 10의 26승 부동소수점 연산 이상에 최첨단 기술이 적용되면 안전성 확보 의무가 부여된다.

시행령과 고시를 통해 '고영향AI' 해당 여부의 영역별 판단 기준과 신뢰성 확보 조치의 구체적 이행 방안도 하위법령에서 규정됐다.

AI기본법에서 고영향AI는 생명·신체·기본권에 중대한 영향을 미치거나 위험 초래 우려가 있는 AI시스템으로, 에너지, 보건의료, 원자력, 교통안전, 교육 등 10가지 특정 영역에서 활용되는 AI 시스템을 말한다.

고영향AI의 신뢰성 확보를 위해서는 위험관리방안(위험관리 정책 및 위험조직체계 수립·이행) 및 이용자보호방안(적법·안전데이터 수집, 안전한 개발 수행, 이용자 권리 보장 정책 수립)을 마련했다.

AI제품·서비스 제공시 사람의 기본권에 미치는 AI영향평가도 자율적으로 실시하도록 시행령에서 정했다.

해외 AI사업자의 국내 대리인 지정 의무 기준도 이번 하위법령에 마련됐다. 기준은 지난해 매출액 1조 원(본사 기준) 이상, AI서비스 부문 매출액 100억 원 이상, 일 평균 국내 이용자 수 100만 명 이상, AI서비스 관련 사고로 자료 제출을 요구받은 경우다.

AI기본법 위반에 따른 시정명령 미이행 등 과태료는 3000만 원 이하다. 과기정통부는 AI 진흥에 방점을 맞춘만큼 규제 유예와 동일한 효과가 있는 '과태료 계도 기간'을 운영하기로 했다. 배경훈 과기정통부 장관은 최소 1년 이상의 계도 기간을 두겠다는 의견을 밝힌 바 있다.

AI 기본법 하위법령은 관계부처 및 이해관계자 대상 의견 수렴 과정을 거쳐 10월 중 입법예고 예정이다. 12월에는 시행령 제정 및 가이드라인 완성본을 공개할 예정이다.

김경만 과기정통부 인공지능기반정책관은 "균형적 시각으로 AI 부작용과 통제가능성도 함께 고민하며 법을 바라봐달라"고 말했다.

이어 "이번 AI기본법 하위법령의 경우 미세한 조정, 또는 더 큰 개정도 항상 열려있다"며 "의견수렴 과정에서 많은 의견을 듣도록 할 것"이라고 덧붙였다.

Kris@news1.kr