오픈AI 자체 AI 에이전트가 내부망 뚫었다…시험 중 통제 이탈

(서울=뉴스1) 장용석 기자 = 오픈AI가 사이버보안 능력을 시험하던 자사의 인공지능(AI) 에이전트들이 통제를 벗어나 회사 내부 연구망에 침입하고 외부 시스템까지 공격한 사실을 공개했다.

26일(현지시간) 오픈AI가 공개한 37쪽 분량의 기술보고서에 따르면 이 회사의 여러 AI 에이전트는 지난 5~7월 인터넷 접속이 제한된 시험 환경에서 보안 취약점을 찾아 내부 연구 인프라를 뚫고 외부 인터넷에 접근했다. AI 에이전트들은 이후 오픈소스 AI 플랫폼 '허깅페이스' 시스템까지 침해했다.

이 '사고'를 주도한 것은 GPT-5.6 Sol과 비슷한 규모의 내부 연구용 모델이었다. AI 에이전트들은 내부에서 사용하는 패키지 관리 시스템 '아티팩토리'를 비인가 '메시지 게시판'처럼 활용해 서로 취약점과 공격 방법을 공유하기도 했다.

AI 에이전트들은 아티팩토리의 취약점을 이용해 관리자 권한을 확보하고 인터넷 접속 제한을 우회했다. 이후 허깅페이스 서버 수십 대에서 코드를 실행하고 한 서버에선 최고 관리자 권한인 '루트' 권한까지 얻었다고 오픈AI가 밝혔다. 7월 19일엔 오픈AI 내부 쿠버네티스 연구 클러스터의 관리자 권한과 클라우드 비밀정보에도 접근했다.

오픈AI는 "조사 결과, 외부 서비스에 적용되는 안전장치와 사고를 탐지하는 AI 사고 과정 모니터링 시스템 일부가 내부 평가 환경엔 적용되지 않았던 것으로 파악됐다"고 설명했다.

오픈AI는 이번 사건을 AI가 기술적 통제를 우회해 인간이 지시하지 않은 위험한 행동을 할 수 있음을 보여준 "경고탄(warning shot)"이라고 평가했다.

다만 오픈AI는 이번 사고가 "고객 데이터나 서비스 기능·가용성엔 영향을 주지 않았다"며 최신 AI 모델의 대규모 강화학습을 일부 중단하고 연구망 격리와 인터넷 접근통제, AI 행동 모니터링을 강화하고 있다고 밝혔다.

ys4174@news1.kr