앤트로픽 "AI 스스로 후속 모델 개발할 위험…제어장치 필요"

(서울=뉴스1) 장용석 기자 = 인공지능(AI) 기업 앤트로픽이 고성능 AI 개발 속도를 늦추거나 일시 중단할 수 있는 국제적 장치가 필요하다고 주장해 관심을 끌고 있다. AI 모델이 인간의 개입 없이 스스로 성능을 개선하는 단계에 예상보다 빨리 접근할 수 있단 우려에서다.

월스트리트저널(WSJ)에 따르면 앤트로픽은 4일(현지시간) 블로그를 통해 세계 주요 AI 연구소들이 개발 속도 조절을 검토해야 한다고 밝혔다. 앤스로픽은 "사회 구조와 정렬 연구가 기술 발전 속도를 따라잡을 수 있도록 프런티어 AI 개발을 늦추거나 일시 중단할 수 있는 선택지가 세계에 필요하다"고 주장했다.

앤트로픽은 AI 시스템이 인간 개입 없이 스스로 구축하고 테스트하고 개선하는 "재귀적 자기 개선(recursive self-improvement)" 가능성을 위험 요인으로 지목했다. 앤트로픽은 이 같은 일이 아직 발생한 게 아니고 필연적인 것도 아니라면서도 각국 정부와 제도가 준비되기 전에 현실화할 수 있다고 밝혔다.

이에 앤트로픽은 AI 개발 속도를 늦추는 방법에 대한 글로벌 합의와 검증 체계가 필요하다고 제언했다. 다만 앤트로픽은 AI 개발은 핵무기와 달리 대규모 학습 작업을 외부에서 확인하기 어렵다는 점에서 감속이나 중단 합의가 제대로 지켜질 수 있을진 불투명하다고 밝혔다.

앤트로픽의 이 같은 제안은 AI의 안전성을 둘러싼 경고란 평가와 함께 경쟁사들의 개발 속도를 늦추려는 전략이란 비판도 받고 있다고 WSJ가 전했다. 앤트로픽은 창립 초기부터 AI 안전을 강조해 왔지만, 최근 오픈AI와 AI 주도권을 놓고 치열하게 경쟁하는 초대형 기업으로 부상했단 이유에서다.

도널드 트럼프 미 대통령의 비공식 자문역으로 알려진 벤처투자자 데이비드 삭스 등도 AI의 안전성에 관한 앤트로픽의 논의에 대해 이른바 "규제 포획(regulatory capture)" 시도라고 비판해 왔다. 정부 규제를 자사에 유리한 방향으로 설계하도록 유도해 경쟁사들의 개발 속도를 늦추려 한다는 것이다.

일부에선 앤트로픽이 '미토스' 등 자사 모델의 위험성을 강조함으로써 오히려 제품 성능을 부각하는 마케팅 전략을 펴는 게 아니냐는 지적도 나오고 있다.

반면 앤트로픽 내엔 실제로 AI의 위험을 심각하게 보는 연구자들이 적지 않다는 얘기도 나오고 있다.

AI 전환 연구자인 이선 몰릭 펜실베이니아대 와튼스쿨 교수는 앤트로픽의 AI 안전성 관련 주장에 대해 회사 내엔 이를 "진심으로 믿는 이들이 많다"고 전했다.

몰릭 교수는 "AI 연구소는 거대 기업으로서 마케팅팀과 법무팀을 갖춘 동시에 다음 세대 모델을 개발하는 핵심 연구자들과 AI의 미래를 심각하게 우려하는 집단이 공존하는 복합적 조직"이라며 "이들 집단은 때론 서로 충돌한다"고 언급했다.

앤트로픽의 이번 경고 또한 AI 안전론과 기업 경쟁 논리가 한 조직 안에서도 충돌하고 있음을 보여주는 사례일 수 있단 것이다.

WSJ는 앤트로픽이 최근 기업가치를 약 1조 달러로 평가받으며 자금 조달을 마치고 기업공개(IPO)를 위한 비공개 서류도 제출했다며 연간 환산 매출이 작년 말 90억 달러에서 이달 말 500억 달러 수준까지 늘어날 것으로 전망된다고 전했다.

ys4174@news1.kr