삼성SDS가 국내 최초로 엔비디아의 최신 그래픽처리장치(GPU)인 '블랙웰 300'(B300) 기반 구독형 GPU 서비스(GPUaaS)를 23일 출시했다. GPUaaS는 기업이 별도의 GPU 서버를 구축할 필요 없이 클라우드에서 필요한 만큼 GPU 자원을 할당받아 사용할 수 있는 서비스다.
삼성 SDS는 이번 서비스를 자사 클라우드 플랫폼 '삼성 클라우드 플랫폼'(SCP)을 통해 출시했다. 최근 기업들이 AI 모델 개발을 넘어 실제 서비스에 적용하는 'AI 추론' 단계로 진입하면서 급증하는 고성능 컴퓨팅 수요에 대응하기 위한 전략이다.
B300 GPU는 12단 HBM3E(고대역폭메모리)를 탑재해 GPU당 288기가바이트(GB)의 메모리 용량과 초당 8테라바이트(TB)의 대역폭을 제공함으로써 복잡한 연산이 필요한 AI 추론 영역에서 전세대 제품인 H100 대비 메모리 용량은 3.6배, 대역폭은 2.4배로 메모리 성능이 향상되었다. 이를 통해 'SCP B300 GPUaaS'는 거대 AI 모델을 효율적으로 처리할 수 있어 AI 에이전트, 이미지·영상·코드 생성 및 분석 등 고성능이 필요한 AI 서비스의 지연 시간을 최소화할 수 있게 됐다.
삼성SDS는 "이에 따라 대규모 언어 모델(LLM) 실행 시 GPU의 빠른 연산 처리 속도 대비 느린 메모리의 데이터 전송 속도로 인해 전반적인 성능이 저하되는 데이터 병목 현상이 획기적으로 개선됐다"고 설명했다.
또 필요한 만큼 쓰고 지불하는 구독형 모델을 이용하면 초기 투자 리스크를 낮추고 비용을 효율화할 수 있어 GPU 수급이 어려운 기업도 엔비디아의 최신 아키텍처를 업무에 도입할 수 있으며, 삼성SDS의 보안 역량이 결합된 안전한 클라우드 환경에서 민감한 기업 데이터를 처리할 수 있다.
삼성SDS 이호준 클라우드서비스사업부장(부사장)은 "SCP가 보유한 자원 최적화·에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견·중소, 공공 등 AI를 업무에 적용하려는 고객에게 국내 최초 B300 GPU 서비스를 제공해 AI 전환(AX)을 적극 지원하겠다"고 밝혔다.
한편, 삼성SDS는 클라우드 서비스 사업자로서 지난 2021년부터 GPUaaS 서비스를 최초로 출시했으며, 범정부 초거대 AI 공통기반 구현, 지능형 업무관리 플랫폼 구축 등 다양한 정부 AI 사업을 수행하고 있다.
Copyright @ NEWSTREE All rights reserved.
