AI, 클라우드, 스토리지 및 5G‧에지(Edge)를 위한 종합 IT솔루션 제공기업인 슈퍼마이크로(Supermicro)는 6월4일부터 7일까지 대만 타이베이에서 개최된 ‘컴퓨텍스 2024(COMPUTEX 2024)’에 참가해 즉시 적용할 수 있는 액체냉각 AI 데이터센터(DC) 서버솔루션을 소개했다.
이 자리에서 찰스 리앙(Charles Liang) 슈퍼마이크로 CEO는 수냉식 솔루션을 적용해 극적인 에너지절감 효과를 확보할 수 있으며 이러한 비용적 측면의 보너스는 사실상 수냉식 AI DC를 무료로 적용하는 것과 같다고 강조했다.
액체냉각 AI DC는 클라우드 기반의 생성형 AI DC솔루션이다. 생성형AI의 개발 및 배포를 위한 NVIDIA AI 엔터프라이즈 소프트웨어 플랫폼에 최적화된 슈퍼클러스터(SuperClusters)를 통해 업계 전반에 걸쳐 기업의 생성적 AI 도입을 가속화하는 클라우드 네이티브 솔루션용으로 설계됐다.
엔비디아(NVIDIA)는 최근 슈퍼마이크로의 4U 수냉식을 통해 단일 GPU에서 20페타플롭스 AI성능을 완전히 발휘할 수 있는 블랙웰(Blackwell) GPU를 출시했다. 이에 따라 슈퍼마이크로는 최근 새로운 NVIDIA HGXTM B100, B200, GB200 등 블랙웰 슈퍼칩을 위한 NVIDIA 블랙웰 아키텍처 기반 제품 전체라인업을 발표했다.
찰스 리앙 슈퍼마이크로 CEO는 “슈퍼마이크로는 랙 규모의 액체냉각을 갖춘 AI 솔루션 개발 및 배포분야에서 업계를 선도하고 있다”라며 “액체냉각기능을 갖춘 DC 구축은 사실상 무료로 가능하다”고 강조했다.이어 “지속적인 전기사용량 감소로 고객에게 보너스가치를 제공할 수 있기 때문”이라며 “슈퍼마이크로의 솔루션은 다양한 산업분야의 고객을 위해 NVIDIA AI Enterprise 소프트웨어로 최적화됐으며 전 세계에서 글로벌 제조역량을 제공한다”고 덧붙였다.
이어 “그 결과 NVIDIA HGX H100 및 H200은 물론 향후 B100, B200 및 GB200 솔루션을 사용해 수냉식 또는 공냉식 턴키 클러스터의 제공시간을 단축할 수 있다”라며 “냉각탑에 이르기까지 랙 규모 전체 액체냉각솔루션은 지속적인 DC 전력사용량을 최대 40%까지 줄일 수 있다”고 강조했다.
컴퓨텍스 2024에서 슈퍼마이크로는 10U 공냉식 및 4U 수냉식 NVIDIA HGX B200 기반 시스템을 포함해 NVIDIA 블랙웰 GPU에 최적화된 신제품을 공개했다. 또한 슈퍼마이크로는 8U 공랭식 NVIDIA HGX B100 시스템과 NVIDIA NVLink 스위치로 상호 연결된 72개의 GPU를 포함하는 슈퍼마이크로의 NVIDIA GB200 NVL72랙 등을 공개했다.
대규모 언어 모델의 급속한 발전과 Meta의 Llama-3 및 Mistral의 Mixtral 8x22B와 같은 오픈소스 모델의 지속적인 도입으로 인해 기업들은 오늘날의 최첨단 AI모델에 더욱 쉽게 접근할 수 있게 됐다. 현재 AI 혁명의 엄청난 속도를 지원하기 위해 AI 인프라를 단순화하며 가장 비용 효율적인 방식의 접근성을 제공해야 할 필요성이 있다.
슈퍼마이크로의 클라우드 기반 AI 슈퍼클러스터는 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)를 활용해 즉각적인 접근이라는 클라우드 편의성과 이식성 사이의 격차를 해소함으로써 AI 프로젝트를 파일럿에서 프로덕션까지 모든 규모에서 원활하게 이동할 수 있도록 해준다. 이는 자체 호스팅시스템이나 온프레미스 대규모 DC를 포함해 어디서나 실행할 수 있는 유연성을 제공한다.
업계 전반의 기업들이 생성적AI 사용사례를 신속하게 실험하고 있는 가운데 슈퍼마이크로는 NVIDIA와 긴밀히 협력해 실험 및 AI 애플리케이션 파일럿에서 프로덕션 배포 및 대규모 AI DC로 원활하고 유연한 전환을 보장한다.
