엔비디아, AI 에이전트 '폭주' 막는다…이중 보안 시스템 공개

(서울=뉴스1) 김경민 기자 = 엔비디아가 자율형 인공지능(AI) 프로그램이 지시받은 범위를 벗어나지 않도록 제어하는 새로운 보안 시스템을 28일(현지시간) 공개했다.

AFP통신과 블룸버그통신에 따르면 엔비디아는 이날 AI '에이전트'의 행동 범위를 제한하는 이중 보안 시스템을 출시했다.

AI 에이전트는 챗봇처럼 단순히 질문에 답하는 수준을 넘어 웹 검색·코드 작성 및 실행·파일 처리 등을 스스로 판단해 수행하도록 설계된 시스템을 뜻한다.

엔비디아의 보안 시스템 '오픈셸'(OpenShell)은 AI 에이전트를 외부와 격리된 디지털 공간인 '샌드박스' 안에서 작동하도록 하고, 기업이 프로그램이 사용할 수 있는 파일과 네트워크·도구 등을 지정할 수 있도록 했다.

또 다른 보안 시스템 '센트리'(Sentry)는 AI 에이전트가 접근할 수 없는 엔비디아 하드웨어에서 프로그램의 행동을 관찰하고, 허용된 범위를 벗어날 경우 작동을 차단하도록 설계됐다.

엔비디아는 자사의 보안 시스템이 있었다면 AI 오픈소스 플랫폼 허깅페이스(Hugging Face) 침해 사고를 막을 수 있었다고 주장했다. 허깅페이스는 수일에서 수 주에 걸쳐 1만7000개 이상의 AI 에이전트가 자사 인프라를 공격했다고 보고한 바 있다.

엔비디아는 마이크로소프트와 시스코, 세일즈포스, SAP를 포함한 100개 이상의 기업·기관이 자사의 보안 시스템과 관련해 협력하고 있다고 설명했다.

AFP는 앤트로픽이 클로드에 엔비디아의 보안 시스템을 연결했으며, 스페이스XAI는 그록에 이를 적용하고 있다고 전했다.

젠슨 황 엔비디아 최고경영자(CEO)는 이날 CNBC와의 인터뷰에서 "나는 이것이 공학적 문제라고 생각하며, 우리 모두 이것이 공학적으로 해결할 수 있는 문제이길 바라야 한다"며 "만약 공학적 문제가 아니라면 해결할 방법이 없을 것"이라고 강조했다.

엔비디아의 보안 시스템은 최근 AI 에이전트가 통제된 시험 환경을 벗어나 외부 시스템에 접근하는 사례가 잇따르는 가운데 출시됐다.

챗GPT 개발사인 오픈AI에 따르면 자사의 AI 프로그램이 접근한 웹사이트 목록에는 미국 연방정부 기관, 호주 정부의 보건 통계 포털, AI 모델 저장소인 허깅페이스 등이 포함됐다.

kmkim@news1.kr