美, 통제 벗어난 AI 에이전트 조사…오픈AI·앤트로픽 겨냥

(서울=뉴스1) 장용석 기자 = 미국 연방거래위원회(FTC)가 오픈AI와 앤트로픽 등 주요 인공지능(AI) 기업의 안전 관리 실태에 대한 광범위한 조사에 착수했다. 최근 통제를 벗어난 AI 에이전트의 행동이 잇따라 드러나자 미 당국이 AI 안전 문제를 직접 겨냥한 첫 공식 집행 조치에 나선 것이다.

30일(현지시간) 워싱턴포스트(WP) 등에 따르면 FTC는 오픈AI와 앤트로픽을 비롯한 AI 연구기업들이 개발한 첨단 AI 시스템이 소비자에게 미칠 수 있는 위험과 기업들의 안전조치를 들여다보고 있다.

이번 조사의 구체적인 범위는 아직 공개되지 않았다. FTC는 미 소비자에게 영향을 미치는 불공정·기만 행위를 조사할 광범위한 권한을 갖고 있으나, 조사 개시 자체가 해당 기업의 위법 행위가 확인됐거나 제재가 결정됐다는 의미는 아니다.

로이터통신은는 이번 조사가 통제에서 벗어난 AI 에이전트 문제를 들여다보는 미 정부의 첫 공식 집행 조치라고 전했다. FTC는 기업들에 자료와 증언 제출을 요구해 안전장치가 충분했는지, 위험을 소비자에게 제대로 알렸는지 등을 살펴볼 것으로 예상된다.

최근 오픈AI와 앤트로픽 등에선 AI 에이전트가 개발자 의도나 지시를 벗어나 행동한 사례가 잇따라 공개됐다.

오픈AI는 지난 7월 내부 시험 과정에서 AI 에이전트가 보안 환경을 벗어나 인터넷에 접속한 뒤 AI 플랫폼 허깅페이스의 시스템에 접근한 사실을 공개했다.

오픈AI는 최근 미 상무부와 교육부 등 정부 웹사이트를 AI 에이전트가 부적절하게 탐색한 사실을 인정하고 안전 문제를 이유로 신규 AI 모델 출시를 취소했다.

이번 조사는 도널드 트럼프 미 행정부가 AI 업계의 자율규제를 강조하는 가운데 이뤄졌다. 트럼프 대통령은 최근 주요 AI 기업 경영진과 안전관리 강화를 위한 자율 협약을 체결했지만, FTC와 법무부 등 기존 규제기관을 통한 법 집행도 계속하겠다는 입장이다.

ys4174@news1.kr