(서울=뉴스1) 신은빈 기자 = 인공지능(AI) 사업자에게 AI 생성물의 투명성과 안정성 확보를 의무화하는 'AI 기본법' 시행이 한 달 앞으로 다가오면서 기업들도 분주해졌다.
신규 서비스를 제공하기 전에 AI를 활용한다는 사실과 수집하는 정보 종류를 약관으로 투명하게 공개하고, 유해한 AI 생성물을 사전 차단하기 위한 보안 기술을 개발하는 등 시행 환경에 대비하는 움직임에 속도가 붙고 있다.
23일 정보기술(IT) 업계에 따르면 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법) 시행령 제정안 입법예고가 전날까지 진행됐다. 이로써 입법예고 기간 정부의 대국민 의견수렴도 마무리됐다. 법 시행은 내년 1월 22일로 30일을 남겨둔 상태다.
법안이 AI 활용 사업자의 투명성과 안전성 확보 의무를 강조하면서 국내 기업들은 관련 정책 마련이나 기술 개발에 힘을 쏟고 있다.
AI 기본법 제31조와 시행령 제22조에 따르면 서비스나 제품에 AI를 활용하는 사업자는 투명성을 확보하기 위해 AI를 활용한다는 사실과 관련 내용을 이용자에게 사전 고지해야 할 의무가 있다.
이에 따라 카카오(035720)는 신규 AI 서비스 도입을 앞두고 이용자 동의에 필요한 통합서비스 약관을 최근 개정했다. 사회연결망서비스(SNS)·게시판·온라인 콘텐츠·위치 기반 서비스 등의 이용기록과 이용패턴 등을 분석할 수 있다는 내용으로, 맞춤형 콘텐츠 추천과 광고 제공 등을 위한 조치다.
회사가 제공하는 서비스에는 AI에 기반해 운용되는 서비스가 포함될 수 있고, AI로 생성한 결과물을 제공할 경우에는 관련 법에 따라 고지·표시한다고도 명시했다.
카카오 관계자는 "최근 카카오의 AI 기반 신규 기능 도입과 AI 기본법 시행을 고려해 필요한 내용을 통합서비스 약관에 명시했다"며 "내년 출시 예정인 AI 서비스 '카나나 인 카카오톡' 출시에 대비한 것으로 향후 새로운 AI 서비스가 나오면 이용자에게 별도로 동의를 받는다"고 설명했다.
AI를 활용하는 과정에서 이용자 데이터 유출이나 유해한 콘텐츠가 생성되는 일을 막기 위한 보안 설루션도 속속 등장하고 있다.
보안 전문기업 티오리는 거대언어모델(LLM) 보안 설루션 '알파프리즘'(αprism)을 통해 생성형 AI 환경에서 발생할 수 있는 위협을 사전 차단하고 있다.
알파프리즘은 단순한 키워드 필터링을 넘어 AI로 직접 텍스트의 문맥을 분석하고 내부 민감 정보 유출을 예방한다. 개인정보·기업 기밀 자동 마스킹, 악의적 프롬프트(명령어)·제어 우회(탈옥) 탐지 및 차단, 문서 파일 검사 기능 등을 통해 이용자 개인정보나 기밀 정보의 유출을 차단한다.
영상 이해 기업 파일러는 유해 동영상을 탐지하고 차단하는 멀티모달 AI 모델 '에이드'(AiD)를 개발했다. 텍스트뿐만 아니라 영상·음성과 대사 맥락까지 분석해 대규모로 업로드되는 동영상을 실시간 학습하고 유해 콘텐츠를 차단한다.
오재호 파일러 대표는 "국가 차원에서 AI 기본법과 관련 규제를 실질적으로 작동하게 하려면 그에 따르는 안전 설루션도 필수적"이라며 "AI 활용으로 인한 사고와 정보 유출 등을 막을 신뢰 인프라를 구축해야 한다"고 말했다.
한편 정부는 AI 기본법 시행령을 제정하면서 진흥에 무게를 두되 사업자 책무를 세부적으로 규정해 중복 규제를 최소화하려 했다고 설명했다.
지난달 12일 공개된 시행령 제정안에는 AI를 활용했다는 사실을 이용자에게 사전 고지하고 명확하게 인지할 수 있도록 표시해야 한다는 투명성 확보 의무 조항이 담겼다. 의무 대상이 되는 AI 시스템은 학습에 사용된 누적 연산량이 10의 26제곱 부동소수점 연산 이상인 시스템이다.
이외에도 고영향 AI 해당 여부를 판단할 의무와 확인 요청을 받을 경우 30일 이내 결과를 회신해야 할 의무, 규정을 어긴 사업자에게 부과되는 과태료 계도기간은 최소 1년으로 설정하는 등의 내용이 최종적으로 반영됐다.
bean@news1.kr
