일레븐랩스, 세계 최초 'AI 에이전트 보험' 도입

(서울=뉴스1) 김민석 기자 = 일레븐랩스는 인공지능(AI) 리스크 평가 기업 AIUC(Artificial Intelligence Underwriting Company)와 손잡고 세계 최초 인공지능(AI) 음성 에이전트 전용 종합 보험 제도를 도입했다고 18일 밝혔다.

일레븐랩스 관계자는 "AI를 단순 소프트웨어가 아닌 책임을 수반하는 디지털 직원(Digital Employee)으로 간주하고 발언·행동에 따른 손해를 인간 직원과 동일한 수준에서 보장하는 것을 핵심으로 한다"고 말했다.

이어 "AI 음성 에이전트 일레븐에이전트(ElevenAgents)가 기업 고객지원과 영업 현장에서 잘못된 정보 제공이나 부적절한 응대로 손해를 발생시킨 경우 보험 보장을 받을 수 있는 구조를 마련했다"며 "많은 기업이 AI 환각(할루시네이션·hallucination)이나 부적절한 발언에 따른 법적·경제적 책임이 불명확해 여전히 파일럿(시범운영) 단계에 머물러 있다. 이번 제도가 이러한 도입 장벽을 낮추는 역할을 할 것으로 기대한다"고 설명했다.

일레븐랩스에 따르면 AIUC가 개발한 보안·신뢰성 기준 'AIUC-1' 인증을 세계 최초로 획득했다.

일레븐에이전트 관계자는 "AIUC-1 인증 과정에서 환각과 프롬프트 인젝션(prompt injection) 공격, 데이터 유출, 편향성 등 실제 AI 시스템에서 발생 가능한 실패 사례를 기반으로 한 5000건 이상의 적대적 시뮬레이션 테스트를 통과했다"고 전했다.

다만 AI 보험은 일레븐에이전트를 사용한다고 자동으로 적용되지 않는다. AIUC의 개별 감사와 각 에이전트 운영 환경, 위험(리스크) 프로필에 따른 AIUC-1 인증을 완료해야 보험이 활성화된다.

AIUC-1 인증 유효 기간은 12개월이다. 유효성을 유지하기 위해 최소 3개월마다 기술 테스트를 완료해야 한다. AI 에이전트 보험료는 인증 비용과 별개로, 에이전트 유형에 따라 별도로 책정된다.

AIUC는 앤트로픽(Anthropic) 출신 등이 설립한 기업으로 오릭(Orrick) 법률회사, 스탠퍼드대, 클라우드 보안 얼라이언스, MITRE 등과 협력해 AIUC-1 표준을 개발했다.

마티 스타니셰프스키 일레븐랩스 CEO 겸 공동창업자는 "기업의 AI 에이전트 도입이 빠르게 확대되고 있다"며 "AIUC-1 인증은 파트너 기업이 필요로 하는 보안 프레임워크와 AI 보험 보장을 제공해 기업이 리스크를 최소화하면서도 뛰어난 고객 경험 구축에 집중할 수 있도록 하는 새로운 수단이 될 것"이라고 했다.

ideaed@news1.kr