© Reuters.

캘리포니아주 산호세 - AI, 클라우드, 스토리지, 5G/Edge용 IT 솔루션으로 유명한 슈퍼마이크로(NASDAQ: SMCI)가 생성적 AI 배포를 가속화하기 위한 새로운 SuperCluster 솔루션 제품군을 발표했습니다. 이 솔루션은 대규모 언어 모델(LLM) 인프라의 기반 역할을 하도록 설계되었습니다.

슈퍼마이크로 슈퍼클러스터 포트폴리오에는 세 가지 구성이 포함됩니다: 4U 수냉식 시스템, 8U 공냉식 시스템, 1U 공냉식 슈퍼마이크로 NVIDIA MGX™ 시스템입니다. 이러한 시스템은 LLM 트레이닝 및 고용량 추론 워크로드에 강력한 성능을 제공하도록 설계되었습니다. 이 회사의 CEO인 찰스 리앙은 슈퍼마이크로의 글로벌 제조 역량을 활용하여 이러한 AI 클러스터를 고객에게 신속하게 제공할 수 있는 능력을 강조했습니다.

4U 수냉식 시스템에는 엔비디아 HGX H100/H200 8-GPU가 장착되어 있으며, 엔비디아의 차세대 블랙웰 아키텍처 기반 GPU를 지원하도록 설계되었습니다. 이 시스템은 전기 비용을 최대 40%까지 절감할 수 있는 효율적인 냉각 기술을 통해 에너지 소비를 줄이고 데이터센터의 총소유비용(TCO)을 낮추는 것을 목표로 합니다.

슈퍼마이크로의 새로운 제품은 400Gb/s 엔비디아 퀀텀-2 인피니밴드 및 스펙트럼-X 이더넷을 포함한 엔비디아 AI 엔터프라이즈 소프트웨어 및 네트워킹 솔루션과 통합되어 최대 수조 개의 파라미터로 LLM을 쉽게 훈련할 수 있습니다. 또한 슈퍼클러스터는 병렬 파일 시스템 옵션을 갖춘 맞춤형 AI 데이터 파이프라인 스토리지 패브릭을 갖추고 있으며, 높은 처리량과 짧은 지연 시간의 스토리지 액세스를 지원하도록 설계되었습니다.

1U 공랭식 NVIDIA MGX 시스템에는 운영 비용을 낮추기 위해 추론 배치 크기가 큰 LLM을 실행하는 데 필요한 GPU 메모리 대역폭과 용량을 해결하는 NVIDIA GH200 그레이스 호퍼 슈퍼칩이 탑재되어 있습니다. 이러한 시스템은 확장 가능하며 클라우드 규모의 대용량 추론에 적합합니다.

슈퍼마이크로의 이번 발표는 애플리케이션에 최적화된 IT 솔루션을 제공하고자 하는 회사의 노력과 제품 설계 및 제조 프로세스의 혁신과 지속 가능성에 중점을 둔다는 점을 강조합니다. 이 보도자료는 슈퍼마이크로 컴퓨터의 보도자료를 기반으로 작성되었습니다.

이 기사는 AI의 지원으로 생성되고 번역되었으며 편집자에 의해 검토되었습니다. 자세한 내용은 우리의 이용 약관을 참조하십시오.