오픈AI 이어 앤트로픽도 기업 3곳 해킹…"AI 보안 위험 현실화"(상보)

(서울=뉴스1) 신기림 기자 = 생성형 인공지능(AI) 스타트업 앤트로픽의 AI 모델이 사이버 보안 테스트 과정에서 실제 기업 3곳의 시스템에 침투한 것으로 나타났다.

경쟁사 오픈AI의 AI 에이전트가 최근 세계 최대 오픈소스 AI 플랫폼인 허깅페이스를 해킹한 사실이 공개된 데 이어 또다시 AI의 실제 해킹 사례가 확인되면서 AI 보안 위험에 대한 우려가 커지고 있다.

30일(현지시간) 앤트로픽은 자사 블로그를 통해 일부 클로드 AI 모델이 사이버 보안 평가 과정에서 실제 기업 시스템에 무단 접근했다고 밝혔다. 이번 사고는 AI가 취약점을 찾아내는 사이버 보안 평가 과정에서 발생했다.

앤트로픽은 AI가 인터넷에 연결되지 않은 폐쇄형 환경에서 테스트를 받는다고 가정했지만, 평가를 맡은 외부 협력사와의 실수로 모델들이 실제 인터넷에 연결되면서 사고가 발생했다고 설명했다.

이 과정에서 클로드 오퍼스 4.7, 클로드 미토스 5, 그리고 내부 연구용 모델 등 3개 모델이 각각 실제 기업 시스템에 접근했다.

앤트로픽은 AI가 보안이 약한 비밀번호와 인증되지 않은 인터넷 접속 경로를 이용해 기업 시스템에 침투했다고 밝혔다. 다만 피해 기업의 이름은 공개하지 않았다.

앤트로픽은 오픈AI의 사고가 공개된 이후 총 14만 1006건의 보안 테스트 기록을 전수 조사하는 과정에서 이번 사례를 확인했다고 밝혔다. 사고는 지난 4월부터 발생했으며, AI의 공격 능력을 평가하기 위해 일부 안전장치를 제거한 연구 환경에서 이뤄졌다.

특히 한 사례에서는 AI가 가상의 공격 대상이라고 생각했던 회사 이름이 실제 기업과 동일하다는 사실을 인지하지 못한 채 해당 기업의 취약점을 찾아 데이터베이스와 계정 정보에 접근했다.

반면 다른 내부 연구용 모델은 공격 대상이 실제 기업이라는 점을 스스로 인식한 뒤 공격을 중단했다. 앤트로픽은 이를 긍정적인 신호로 평가하면서도 "충분한 검증을 더 거쳐야 한다"고 밝혔다.

앤스로픽은 지난 23일 모든 사이버 보안 평가를 중단했으며, 27일부터 피해 기업들에 사고 사실을 통보하고 있다고 밝혔다. 이 가운데 두 곳은 앤트로픽의 연락을 받기 전까지 해킹 사실조차 인지하지 못했던 것으로 나타났다.

이번 사례는 지난주 공개된 오픈AI 사고와는 성격이 다소 다르다고 로이터는 설명했다. 오픈AI의 경우 AI 에이전트가 테스트 도중 스스로 새로운 취약점을 발견해 인터넷으로 탈출한 뒤 AI 개발 플랫폼 허깅페이스의 인프라를 공격했다. 반면 앤트로픽 사고는 운영 실수로 AI 모델이 처음부터 인터넷에 연결된 상태에서 발생했다.

하지만 두 사례 모두 AI가 현실 세계의 사이버 공격을 수행할 수 있음을 보여준다는 점에서 보안 우려를 키운다고 로이터는 지적했다.

이번 사고는 AI 안전성 규제를 강화하려는 미국 정부 움직임에도 힘을 실을 것이라고 로이터는 전망했다. 일론 머스크는 엑스(X)에 "AI가 더 똑똑해지고 자율성이 커질수록 이런 일은 자주 발생할 것"이라고 밝혔다.

샘 올트먼 오픈AI 최고경영자(CEO)는 이번 주 미국 상원의원들과 허깅페이스 해킹 사건을 논의했으며, 백악관과도 차세대 AI 모델의 안전성 평가 방안을 협의할 예정이라고 밝혔다.

도널드 트럼프 미국 대통령은 지난 6월 최첨단 AI 모델을 대상으로 한 자발적 사이버 보안 테스트 체계 마련을 행정부에 지시하는 등 AI 보안 규제 논의를 확대하고 있다.

shinkirim@news1.kr