(서울=뉴스1) 유수연 기자 = 인공지능(AI) 기업 앤트로픽이 안전성 확보를 위해 차세대 AI 모델의 사전훈련을 한 달 넘게 연기하기로 했다. 앤트로픽은 안전을 위한 속도 조절이 장기적으로는 기업 경쟁력을 높일 수 있다는 입장이다.
다만 기업공개(IPO)에 나선 가운데 상장 이후 투자자들의 수익성 압박 속에서도 안전 우선 전략을 유지할 수 있을지 주목된다.
27일 앤트로픽이 미국 증권거래위원회(SEC)에 제출한 증권신고서에 따르면 회사는 최근 새로운 프런티어 기반 모델(frontier base model)의 사전훈련을 한 달 넘게 연기하기로 결정했다.
앤트로픽은 "모델 가중치의 외부 유출을 막고 지식재산권을 보호하기 위한 보안 조치를 추가로 강화할 시간을 확보하기 위해서였다"고 설명했다.
또 지난 4월 프런티어 AI 모델 '미토스'(Mythos)를 일반에 공개하는 대신 일부 기관에만 제한적으로 제공한 사례도 언급했다.
미토스는 소프트웨어의 보안 취약점을 발견하는 능력이 뛰어난 모델로, 앤트로픽은 악용 가능성을 고려해 사이버 보안 프로젝트 '글라스윙'(Glasswing)에 참여하는 기관에만 접근을 허용한 바 있다.
앤트로픽은 신고서에서 이 같은 안전 조치가 단기 매출에 부정적인 영향을 미쳤을 가능성이 있다고 밝혔다.
이어 안전하고 책임 있는 AI 배포를 위해 △연구개발 비용 증가 △추가 인력 및 인프라 비용 발생 △시장 출시 속도를 우선시하는 경쟁사에 비해 매출 기회 상실 등이 발생할 수 있다고 짚었다.
그러면서 "이러한 조치는 유사한 제한을 두지 않는 경쟁사보다 모델 성능 향상 속도를 늦출 수 있다"며 "경쟁력, 매출 성장, 영업 실적에 부정적인 영향을 미칠 수 있다"고 했다.
다만 증권신고서의 위험 요인은 투자자에게 발생할 수 있는 위험을 폭넓게 고지하는 성격이 있다. 앤트로픽 역시 해당 설명이 특정 위험의 과거 발생 여부를 의미하지는 않는다고 명시했다.
앤트로픽은 안전에 대한 투자가 장기적인 경쟁력으로 이어질 수 있다는 입장이다.
회사는 "프런티어 AI 성능 연구와 안전성 연구를 긴밀하게 통합해 모델의 설계, 훈련, 배포에 반영하고 있다"며 "이를 통해 신뢰성과 제어 가능성을 높이고 특히 까다로운 기업 환경에서 실제로 활용하기 적합한 AI 시스템을 개발할 수 있다"고 설명했다.
신고서에서 앤트로픽은 "당사의 제품 및 투자 전략이 장기적인 재무 성과를 개선할 것으로 믿고 있지만, 단기 매출이나 수익성 확보에 부정적인 영향을 미칠 수 있는 결정을 정기적으로 내리고 있다"고 했다.
문제는 상장 이후다. 앤트로픽은 지금까지 모델 출시를 늦추거나 접근을 제한하는 방식으로 안전을 우선해 왔지만, 상장 이후에는 단기 실적과 성장률을 중시하는 투자자들의 요구에 직면할 수 있다.
마크 레빈 뉴욕시 감사원장은 지난 15일 CNBC 방송 '스쿼크 박스'에 출연해 "상장하면 성장과 수익에 대한 새로운 압박이 생길 것이며 이는 안전을 위한 노력과 충돌할 것"이라고 지적한 바 있다.
shushu@news1.kr
