글로벌 빅테크도 취약…AI 발전 속도 못쫓아가는 위기 관리 능력

(서울=뉴스1) 나연준 기자 = 인공지능(AI) 기업들의 사이버 공격 위협 예방 및 관리 능력이 부족하다는 분석이 나왔다. AI 기술 발전은 빠르게 발전하고 있지만 관련 기업들의 위기관리 능력은 아직 신뢰할 수 있는 수준이 아니라는 지적이다.

19일 업계에 따르면 세이퍼 AI 레이팅스(Safer AI Ratings)에 7월 보고서는 앤트로픽, 오픈AI, 메타, 딥마인드, xAI 등의 위기관리 능력을 분석했다.

매체는 △위험 식별 △위험 분석 및 평가 △위험 처리 △리스크 거버넌스 등 4개 항목으로 AI 기업들을 평가한 결과(백분율로 평가) 5개 기업 모두 '취약' 또는 '매우 취약' 수준을 보였다.

이중 앤트로픽은 종합 35%(취약)로 1위를 차지했다. 앤트로픽은 위험 처리(41%), 리스크 거버넌스(49%) 등에서 높은 점수를 받았다.

오픈AI(33%)와 메타(22%)도 취약 평가를 받았다. 딥마인드(20%)와 xAI(18%)는 '매우 취약'으로 분류됐다.

매체는 대부분의 기업이 이미 알려진 위협에만 초점을 맞추고 있어 새로운 위협을 찾아내는 시스템이 부족하다는 점, 위협 완화 방안 등이 담긴 사전 관리 계획 부재 등을 문제점으로 지적했다.

또한 기업들이 위협을 명확하게 정의하지 않고 있는 점을 지적했다. 명확한 기준이 없기에 원칙에 따른 위기관리 대응을 구축하기 어렵다는 것이다.

미국 비영리단체인 FLI(Future of Life Institue)도 지난 17일(현지시간) AI 보안 보고서를 통해 주요 AI 기업들을 평가했다.

FLI는 △위험 평가 △현존 위험 △안전 체계 △실존적 안전 △거버넌스 및 책임성 △정보 공유 등 항목으로 기업들을 평가했다.

FLI 보고서는 앤트로픽에 가장 높은 'C+'를 부여했다. 오픈AI(C), 딥마인드(C-), xAI(D), 메타(D), 즈푸(F), 딥시크(F) 등이 뒤를 이었다.

FLI는 "일부 기업들이 안전 체계를 확장하고 있지만 대부분은 아직 대중의 안전을 보장하고 신뢰할 수 있는 계획을 갖추고 있지 못하다"며 "통제 상실 위협 등 여러 부분에서 책임 의식 등이 부족하다"고 평가했다.

yjra@news1.kr