[비즈니스포스트] 삼성SDS가 엔비디아 최신 그래픽처리장치(GPU)를 기반으로 한 클라우드 서비스를 출시했다.

기업들이 인공지능(AI) 모델 개발을 넘어 실제 서비스에 적용하는 AI 추론 단계로 진입하면서 급증하는 고성능 컴퓨팅 수요에 대응하기 위한 전략으로 풀이된다.
 

삼성SDS는 삼성클라우드플랫폼(SCP)을 통해 B300 기반 GPUaaS(GPU 구독형 서비스)를 선보인다고 23일 밝혔다.

B300 GPU는 12단 고대역폭 메모리(HBM3E)를 탑재해 GPU당 288GB의 메모리 용량과 초당 8TB의 대역폭을 제공한다. 

복잡한 연산이 필요한 AI 추론 영역에서 기존 H100 대비 메모리 용량은 3.6배, 대역폭은 2.4배 향상됐다.

이에 거대언어모델(LLM) 실행 시 GPU의 빠른 연산 처리 속도에 비해 상대적으로 느린 메모리 데이터 전송 속도로 발생하던 병목 현상이 크게 개선돼 전반적으로 성능이 향상됐다.

삼성SDS는 AI 모델 적용 시 인프라 사용료 없이 사용한 토큰량만큼 비용을 지불하는 서버리스 추론 서비스와 개발자가 코드와 데이터를 입력하면 자동으로 AI를 분산 학습시키는 서비스도 올해 3분기에 출시한다. 조승리 기자