클로드로 챗GPT 뚫렸다…직원 계정 통해 기밀 저장소 접근

(서울=뉴스1) 윤다정 기자 = 외부 보안연구팀이 앤트로픽의 인공지능(AI) 모델 '클로드'를 이용해 오픈AI 직원의 챗GPT 계정에 침입, 회사의 비공개 소스코드 저장소를 열람하는 데 성공한 사실이 처음으로 공개됐다.

17일(현지시간) 월스트리트저널(WSJ)에 따르면, 보안업체 핵트론AI 연구팀은 오픈AI의 '버그 바운티' 프로그램에 참여해 침입에 성공, 결과를 회사에 신고해 6500달러(약 900만 원)의 포상금을 받았다.

버그 바운티란 기업이 외부 연구자들에게 자사 시스템을 합법적으로 공격해 보게 한 뒤, 허점을 찾아내면 포상금을 주는 제도다.

연구팀은 지난 7월 23일 오픈AI 이용자 포럼을 운영하는 외부 업체 '디스코스'의 이미지 파일 처리 방식에서 결함을 발견했다.

연구팀은 사이버보안 실무자에게만 제공되는 '클로드 오푸스 4.8' 특별 버전에 공격 코드 작성을 요청했으나 처음에는 실패했다. 그런데 그날 저녁 앤트로픽이 성능을 높인 새 모델 '오푸스 5'를 출시했고, 다음 날 클로드는 결국 공격 방법을 찾아냈다.

연구팀은 이 코드로 디스코스 게시판 서버에 접근해 이용자들의 '인증 토큰'을 확보했다. 인증 토큰은 로그인 상태를 유지시켜 주는 일종의 전자 출입증이다.

문제는 이 토큰 일부가 오픈AI 직원의 것이었고, 게시판뿐만 아니라 챗GPT와 깃허브에서도 유효했다.

연구팀은 챗GPT를 통해 '모노레포'라는 이름의 저장소 파일을 읽을 수 있었다. 관계자들에 따르면 모노레포는 AI 모델을 더 빠르고 효율적으로 돌아가게 만드는 알고리즘 기밀이 담긴 대규모 저장소다. 다만 회사의 핵심 자산인 '모델 가중치'는 포함되지 않은 것으로 알려졌다.

연구팀은 민감 데이터 접근이 가능하다는 점을 인지한 뒤 침입을 중단했으나, 그 전에 문서 파일에 자사명을 넣는 '풀 리퀘스트'(변경 제안)를 보내 접근 사실을 입증했다. 해당 제안은 채택되지 않았다.

오픈AI는 디스코스 측 문제와 자사 측 문제 두 건이 모두 해결됐다며 "커뮤니티 로그인 토큰의 권한을 축소하고 영향받은 토큰과 세션을 무효로 했다"고 밝혔다.

오픈AI는 깃허브 검토 결과 비공개 저장소 메타데이터와 코드 변경 사항이 "제한적으로 읽힌" 흔적이 확인됐다고도 설명했다. 디스코스는 통보 당일인 7월 25일 취약점을 수정했다.

모한 페다파티 핵트론AI 최고기술책임자(CTO)는 "우리가 중국 해커들만큼 강하다고 보지 않는다. 우리는 그저 클로드와 코덱스 구독권을 가진 세 사람일 뿐"이라고 말했다.

이는 미중 AI 패권 경쟁 속에 국가 지원을 받는 공격팀이 미국의 AI 기밀에 접근할 가능성이 현실적이라는 취지다.

앞서 오픈AI에서는 AI 에이전트들이 격리를 벗어나 허깅페이스를 해킹한 사건도 있었다.

그레그 브로크먼 오픈AI 사장은 "현업 엔지니어의 25%에게 '프로젝트를 전부 보류하고 방어에 투입하라'고 지시했으며, 다수의 심각한 문제를 발견해 수정했다"고 밝혔다.

maum@news1.kr