비벡 모힌드라 델 테크놀로지스 수석부사장이 17일 서울 코엑스에서 열린 '델 포럼 2025'에서 "AI를 클라우드로 보내는 것보다 AI를 데이터가 있는 디바이스로 가져오는 것이 훨씬 효율적"이라며 이같이 말했다.
모힌드라 부사장은 "LLM은 공개 데이터로만 학습되지만, 기업들은 수백 페타바이트의 자체 데이터를 보유하고 있다"며 "이러한 기업 데이터는 아직 AI와 결합하지 않은 상태로 있어 우리가 집중하는 영역"이라고 설명했다.
소형 특화 모델의 경쟁력도 강조했다. 모힌드라 부사장은 "현재 3000만 개 이상의 모델이 1년 전 최고 모델보다 뛰어나며 특정 용도에 특화된 소형 모델 10개 이상이 1년 전 최고 LLM보다 성능이 높다"며 "이런 소형모델은 PC나 소형 디바이스서도 실행할 수 있다"고 했다.
델이 제시한 핵심 설루션은 △데이터센터 △클라우드 △엣지 로케이션 △AI PC 등 전반적인 AI 인프라를 포괄하는 '델 AI 팩토리 위드 엔비디아'다.
모힌드라 부사장은 "인프라, 오픈 에코시스템, 서비스를 통합한 스택으로 고객들이 AI를 빠르게 도입하고 비용 효율을 실현할 수 있도록 지원한다"며 "3000개 이상의 고객사가 델 AI 팩토리를 도입했다"고 전했다.
엣지에서의 AI 워크로드 처리는 비용 측면에서도 유리하다고 강조했다. 그는 "AI 추론 워크로드를 온프레미스에서 실행하면 클라우드 대비 60% 이상 비용 효율적"이라며 "향후 AI 도입에서 중요한 경쟁 우위로 작용할 것"이라고 전망했다.
김경진 한국 델 총괄사장은 "앞으로 5년 후 과연 하루 종일 모니터를 보는 일이 있을까요"라고 반문하며 운을 뗐다.
김 총괄사장은 "AI와 인간이 경주하는 시대에 들어섰다"며 "인간은 AI보다 더 빨리 움직이고 더 빨리 변화해야 산다. IT뿐 아니라 의료·제조·운송·화학·고분자·바이오 등 거의 모든 직업군이 AI와의 생존 경쟁에 직면했다"고 진단했다. 이어 "개인뿐 아니라 기업과 정부, 공공기관도 마찬가지"라며 "모든 주체가 피나는 경주를 펼치고 있다"고 했다.
조용노 한국 델 기술영업 전무는 소버린 AI 관련 질의에 "데이터가 있는 곳에 AI가 있다고 강조하는 것과 통하는 부분"이라며 "각 국 마다 자신의 문화와 역사, 정서 등을 반영한 AI 개발을 주도하고 있고 델도 각 국의 사업에 참여하고자 하고 있다"고 했다.
양원석 데이터센터 설루션 사업본부 전무는 AI 데이터센터에 수랭식 냉각 기술 도입은 선택이 아닌 필수가 됐다고 강조했다. 양 전무는 "수랭식으로 전환 시 단일 랙당 꽂을 수 있는 GPU 서버 수량을 늘릴 수 있어 전력 비용 면에서도 훨씬 효율적"이라고 했다.
ideaed@news1.kr
