삼성SDS, 국내 첫 B300 GPU 서비스…기업용 AI 성능↑

삼성 클라우드, 엔비디아 최신 GPU 기반 GPUaaS 서비스
기존 H100 대비 메모리 용량 3배 이상…병목 현상 개선

(삼성SDS 제공)

(서울=뉴스1) 이기범 기자 = 삼성SDS(018260)가 자사 클라우드 서비스를 통해 엔비디아 최신 그래픽처리장치(GPU)인 'B300'(블랙웰 울트라) 기반 GPU 구독형 서비스(GPUaaS)를 출시했다고 23일 밝혔다. 이번 B300 기반 GPUaaS 서비스는 국내 첫 사례로, 기업용 AI 성능 개선에 기여할 전망이다.

삼성SDS는 "최근 기업들이 AI 모델 개발을 넘어 실제 서비스에 적용하는 'AI 추론' 단계로 진입함에 따라 급증하는 고성능 컴퓨팅 수요에 대응하기 위한 전략"이라고 이번 서비스 출시 배경을 설명했다.

B300 GPU는 복잡한 연산이 필요한 AI 추론 영역에서 H100 대비 용량은 3.6배, 대역폭은 2.4배로 메모리 성능이 향상됐다. 이에 따라 대규모 언어 모델(LLM) 실행 시 데이터 병목 현상이 대폭 개선됐다.

해당 서비스를 이용하는 기업 고객은 AI 에이전트, 이미지/영상/코드 생성 및 분석 등 고성능이 필요한 AI 서비스의 지연 시간을 최소화할 수 있다.

한편 삼성SDS는 AI 모델을 적용할 때 별도 인프라 사용료 없이 사용한 만큼만 비용을 지불하는 '서버리스 추론 서비스'와 개발자가 코드와 데이터를 입력하면 자동으로 즉시 AI를 분산 학습시키는 'AI 학습 서비스' 등을 올 3분기에 출시할 계획이다.

Ktiger@news1.kr