'미토스 쇼크'에 사이버 기능 제한한 앤트로픽…"안전성 검증부터"

(서울=뉴스1) 김민수 기자 = 미국 인공지능(AI) 기업 앤트로픽이 최신 모델 '클로드 오퍼스 4.7'을 공개했다. 기존 오퍼스 4.6 모델은 물론 경쟁사인 오픈AI의 챗GPT나 구글 제미나이보다 성능이 크게 개선됐지만 더 눈길이 가는 대목은 일부 '사이버 기능'을 제한했다는 점이다.

앤트로픽의 최상위 모델인 '클로드 미토스 프리뷰'가 알려지지 않은 취약점을 자동으로 탐지하고 이를 해킹까지 할 수 있는 수준의 지능을 갖추면서 세계적으로 '사이버 안보' 위기감이 조성되자 우선 '안정성'부터 확보하자는 차원으로 풀이된다.

앤트로픽은 지난 16일(현지시간) 기존 공개형 최상위 모델 '클로드 오퍼스 4.6'의 개선판인 '오퍼스 4.7'을 출시했다.

오퍼스 4.7은 소프트웨어 개발 능력을 평가하는 'SWE-벤치 프로'에서 64.3%를 기록해 57.7%를 기록한 GPT-5.4와 54.2%를 기록한 제미나이 3.1 프로를 모두 앞섰다. 'SWE-벤치 베리파이드'에서도 87.6%로 전작과 경쟁 모델보다 높은 수치를 보였다.

'파이낸스 에이전트 v1.1'에서도 64.4%를 기록했으며, 'GDPval-AA'에서는 1753점으로 주요 모델을 웃돌았다.

또 최대 2576픽셀(약 375만 화소) 수준의 고해상도 이미지를 처리할 수 있도록 개선해 멀티모달 활용 범위를 확장했다.

다만 외신은 이번 발표에서 신형 모델임에도 최근 공개된 '클로드 미토스 프리뷰'에 비해 성능이 제한된 모델이라는 점에 주목했다.

미 IT매체 더버지는 오퍼스 4.7이 미토스 프리뷰보다 성능은 낮지만, 범용 공개를 전제로 설계된 모델이라고 전했고, 금융매체 배런스는 새 사이버 보안 안전장치를 실제 환경에서 시험해 향후 미토스급 모델 공개를 준비하는 단계로 해석했다.

이 같은 해석의 배경에는 미토스를 둘러싼 높은 경계감이 자리하고 있다.

악시오스는 앤트로픽이 사이버 위협 때문에 미토스를 40곳가량의 기술·보안 조직에만 제한적으로 제공하고 있다고 보도했다. 로이터통신에 따르면 독일 은행권과 금융당국은 해당 모델이 금융 시스템에 미칠 영향을 점검 중이며, 유럽중앙은행(ECB)과 영국 중앙은행동 관련 위험 평가에 나선 상태다.

이처럼 미토스의 잠재적 위험이 부각되면서, 앤트로픽이 미토스보다 통제 가능한 범용 모델을 먼저 공개해 안전장치를 검증하려는 전략을 택했다는 해석에 힘이 실리고 있다.

앤트로픽의 설명도 같은 맥락이다. 회사는 "미토스 프리뷰는 제한적으로 운영하고, 새로운 사이버 보안 안전장치는 보다 범용적인 모델에 먼저 적용해 검증하고 있다"며 "실제 배포 과정에서 얻은 경험을 바탕으로 향후 미토스급 모델의 공개를 준비할 것"이라고 밝혔다.

특히 앤트로픽은 오퍼스 4.7의 사이버 보안 역량이 ‘클로드 미토스 프리뷰’에는 미치지 못하며, 훈련 과정에서 해당 기능만 선택적으로 낮추는 실험도 병행했다고 설명했다.

회사에 따르면 오퍼스 4.7에는 금지되거나 고위험 사이버 보안 사용으로 이어질 가능성이 있는 요청을 자동으로 탐지하고 차단하는 안전장치가 적용됐다. 이는 고위험 모델인 미토스 공개에 앞서 실제 환경에서 안전장치의 효과를 검증하기 위한 조치로 해석된다.

실제 앤트로픽은 일반 사용자에게 일부 보안 관련 요청을 제한해 제공한다. 다만 '사이버 검증 프로그램(Cyber Verification Program)'에 참여한 보안 전문가에게는 취약점 연구, 침투 테스트, 레드팀 등 정당한 목적에 한해 제한적으로 오퍼스 4.7의 제한 기능을 모두 해제해 연구 목적으로 이용할 수 있도록 허용했다.

이 영향으로 사이버 보안 취약점 재현 성능은 73.1%로, 전작(73.8%) 대비 소폭 낮아졌다.

이 같은 외신 보도와 회사 설명을 종합하면 앤트로픽은 범용 모델인 오퍼스 4.7을 먼저 공개하고, 고위험·고성능 모델인 미토스는 제한적으로 운영하면서 안전성 검증과 시장 반응을 병행하는 이중 트랙 전략을 택한 것으로 풀이된다.

앤트로픽은 오퍼스 4.7을 자사 서비스와 API는 물론 아마존, 구글, 마이크로소프트 클라우드 플랫폼을 통해 제공할 예정이며, 가격은 입력 토큰 100만 개당 5달러, 출력 토큰 100만 개당 25달러로 기존과 동일하게 유지한다.

kxmxs4104@news1.kr