아모데이·올트먼 "AI 개발 속도 늦추자"…스타트업 족쇄 채우기?

(서울=뉴스1) 유수연 기자 = 세계 인공지능(AI) 산업을 이끄는 기업들이 AI 기술 발전에 '브레이크'를 걸어야 한다고 주장하기 시작했다.

AI로 인해 인류가 멸망할 수 있다는 경고가 나오면서 안전장치가 기술 발전 속도를 따라갈 수 없다는 위기감이 커진 때문으로 풀이된다.

하지만 막대한 자본을 보유한 프런티어 AI 기업이 주도하는 안전기준은 스타트업과 오픈소스 진영에 새로운 진입장벽이 되는 '규제 포획(regulatory capture)'에 대한 우려도 나온다. 규제 포획은 규제 대상 기업이 입법·규제당국에 영향력을 행사해 자신들에게 유리하게 규칙을 바꾸는 것을 말한다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 블로그를 통해 "AI 모델의 성능 향상 속도를 늦춰야 한다"고 밝혔다.

아모데이 CEO는 △AI 기업 내부 제3자 안전 평가자(외부 검토자) 배치 △민주주의 국가 AI 기업 간 공동 안전기준 수립 △중국·러시아를 포함한 글로벌 공조 등 '3단계 프레임워크'를 제시했다.

앤트로픽은 우선 외부 평가자가 직원과 유사한 수준으로 자사 시스템에 상시 접근해 안전조치 준수 여부와 사고를 확인할 수 있게 하겠다고 약속했다.

샘 올트먼 오픈AI CEO도 직원 수준의 접근 권한을 가진 외부 안전 평가자를 배치하는 방안을 도입하겠다는 뜻을 밝혔다.

일론 머스크 xAI CEO와 데미스 허사비스 딥마인드 창업자 역시 아모데이의 주장에 동조했다.

이들이 속도 조절론을 꺼낸 것은 AI가 인류를 멸망시킬 수 있다는 업계의 경고와 잇따른 안전사고가 영향을 미쳤다는 분석이다.

최근 제이컵 콕슨 앤트로픽 연구원은 퇴사하면서 "AI 개발자들은 이 기술이 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿고 있다"며 "내년 말이면 이미 상황이 통제 불능에 빠질 수 있다"고 주장했다.

또 지난 7월 오픈AI의 AI 모델이 내부 사이버보안 벤치마크 테스트 과정에서 허깅페이스의 운영 인프라에 접근한 사례가 공개된 이후 유사한 사고가 보고되고 있다.

속도 조절에 힘을 실은 주요 AI 기업들은 규제에 대응할 법무·보안·기술 인력과 자본을 이미 갖추고 있다. 같은 기준이 스타트업이나 오픈소스 개발자에게 적용되면 상대적으로 큰 부담이 될 수 있다.

이에 안전을 위해 만들어진 규칙이 결과적으로 선두 AI 기업들의 지위를 공고히 하는 '규제 포획'으로 이어질 수 있다는 비판도 나온다.

특히 폐쇄형 모델을 개발하는 오픈AI와 앤트로픽이 AI의 위험성을 경고하면서 논쟁이 커졌다.

'AI 차르'로 불리는 데이비드 색스 미국 대통령과학기술자문위원회 공동위원장은 AI 선두 기업들이 안전 규제를 통해 오픈소스 경쟁자를 불리하게 만들 수 있다고 지적해 왔다.

정부의 과도한 AI 규제가 안전을 지키기보다 선두기업의 시장 지위를 강화하는 도구로 전락할 수 있다는 취지다.

그러나 앤트로픽은 '규제 포획' 우려에 선을 긋고 있다. 아모데이 CEO는 지난달 엑스(X)를 통해 앤트로픽이 지지해 온 규제안 상당수가 일정 매출 이하 기업이나 모델 훈련비가 일정 수준에 미치지 못하는 기업을 규제 대상에서 제외하거나 최첨단 모델에만 규제를 적용하도록 설계됐다고 반박했다.

경쟁 기업들이 합의해 AI 개발 속도를 늦추는 방식이 미국 반독점법에 저촉될 가능성도 있다. 실제로 오픈AI는 최근 미 의회에 AI 업계가 공동으로 모델 개발 속도를 늦추는 것이 합법인지 명확한 지침을 요청했다.

shushu@news1.kr