AI 에이전트 스스로 탈옥 사태…"오픈AI, 1주일간 몰랐다"

(서울=뉴스1) 김지완 기자 = 오픈AI가 자사의 인공지능(AI) 에이전트가 격리 환경을 뚫고 오픈소스 AI 플랫폼 스타트업인 허깅페이스를 해킹한 사실을 1주일간 파악하지 못했다고 로이터통신이 24일(현지시간) 해당 사안에 정통한 복수의 소식통을 인용해 보도했다.

보도에 따르면 문제의 AI 에이전트는 지난 9일쯤 오픈AI 내부의 격리된 테스트 환경에서 탈출하려고 시도했다.

세 명의 관계자는 이 시점에서 한 오픈AI 에이전트가 자기 미래 버전을 위해 쓴 것으로 보이는 메모를 남기는 등 이상 징후를 보이고 있었다고 밝혔다. 이 메모에는 오픈AI의 내부 제약에서 벗어나는 방법에 대한 지침이 명시됐다.

한 관계자는 이 전의 테스트 과정에서 에이전트 모니터링 시스템 연결이 끊긴 사례도 있었다고 말했다.

다만 로이터는 이러한 징후들이 허깅페이스 해킹과 관련됐는지는 확인되지 않았다고 전했다. 오픈AI는 허깅페이스를 해킹한 에이전트가 GPT-5.6 솔(Sol)과 더 강력한 비공개 모델이라고 밝힌 바 있다.

허깅페이스 공동창업자인 토마스 울프는 해킹이 탈출 시도 이틀 뒤인 지난 11일부터 13일까지 이뤄졌다고 밝혔다.

울프와 세 명의 정통한 소식통은 오픈AI가 해킹 배후에 자사 에이전트가 있다는 사실을 파악하는 데 며칠이 더 걸렸다고 전했다.

두 명의 소식통에 따르면 오픈AI는 지난 16일 허깅페이스가 "자율 AI 에이전트 시스템에 의한 해킹" 사실을 블로그를 통해 공개한 이후에서야 해킹 배후에 자사 에이전트가 있다는 사실을 깨달았다.

이후 오픈AI 직원들은 18~19일 내부 로그에서 에이전트가 격리에서 벗어났다는 단서를 발견했고, 20일이 돼서야 오픈AI와 허깅페이스는 이 문제에 대해 처음 소통했다.

이 시점에 허깅페이스는 이미 연방수사국(FBI)에 해킹 사실을 신고한 상태였다. FBI가 수사를 개시했는지는 불분명하다.

다음날(21일) 오픈AI는 자사 블로그를 통해 허깅페이스 침투 사실을 공개했다.

올프는 이번 해킹과 관련된 타임라인을 준비 중이라고 밝혔다. 오픈AI는 성명을 통해 이번 해킹이 전례가 없다며 "AI 안전에 있어 중요한 전환점이 될 것"이라는 입장을 내놓았다.

로이터는 이 사건을 계기로 인간의 감독이 거의 또는 전혀 없이 의사결정을 내리고 복잡한 작업을 수행할 수 있는 자율 에이전트를 둘러싼 새로운 의문이 제기된다고 분석했다.

AI 에이전트의 능력과 동기를 연구하는 기관인 '팰리세이드 리서치'의 제프리 라디시는 "모델들은 거짓말을 하고, 속임수를 쓰며, 해킹도 한다"며 치열한 경쟁에 쫓기는 AI 기업들이 보안에 얼마나 투자할 의향이 있는지에 대한 주의를 환기해야 한다고 말했다.

gwkim@news1.kr