토탈 IT솔루션 글로벌리더 슈퍼마이크로컴퓨터(Super Micro Computer)가 캘리포니아 산호세에서 처음 설립된 지 30년이 넘었다.

 

창립 이래 슈퍼마이크로는 선도적인 시스템솔루션 공급기업과 선의의 경쟁을 하며 성장해왔다. 대형 OEM 서버 공급기업과 SI(시스템통합)기업을 위한 시스템제공은 물론 최종 고객에게 직접 판매하는 하이브리드 비즈니스모델을 통해 새로운 성장과 수익기회를 만들었다.

실리콘밸리 중심에 위치한 슈퍼마이크로는 산호세 본사에서 제품을 직접 엔지니어링하고 생산함으로써 해외로 아웃소싱하는 여타 경쟁사 사이에서 경쟁력을 유지하고 있다. 대부분의 연구개발을 내부에서 소화해 설계팀간 커뮤니케이션과 협업을 강화하고 개발 프로세스를 간소화하며 제품 출시기간(TTM)을 효과적으로 단축한다.

 

 

슈퍼마이크로는 실리콘밸리 현지 집중전략을 통해 업계 최고의 서버와 스토리지 제품을 설계, 제조하며 도입시기를 앞당기고 있다. 또한 뛰어난 성능과 품질, 빠른 출시속도로 제품 혁신과 우수성을 인정받고 있다.

 

이를 바탕으로 고객 요구에 맞춤화된 솔루션을 신속하게 제공할 수 있다. 이러한 강점은 슈퍼마이크로가 아시아의 대형 위탁 제조기업과 경쟁할 수 있는 경쟁력이며 앞으로도 실리콘밸리를 기반으로 선도적인 제조업체로 성장해 나갈 계획이다.

 

최근 AI산업을 등에 업고 급성장하고 있는 데이터센터(DC) 인프라시장에서 최신 트렌드로 부상하고 있는 DLC(Direct Liquid Cooling)에 대해서도 시장을 선도하기 위한 적극적인 행보를 보이고 있다.
빅 말얄라(Vik Malyala) 슈퍼마이크로 수석부사장과 김성민 상무를 만나 AI DC DLC시장 동향과 슈퍼마이크로의 경쟁력에 대해 들었다.

 

빅 말얄라 EMEA 상무 겸 사장 및 테크놀로지 & AI부문 수석부사장은 반도체 업계에서 실리콘, 플랫폼, 데이터센터 관련 서버 및 스토리지기술을 중심으로 폭넓은 경험을 쌓았다. 데이터센터, 클라우드, HPC, OEM, 엔터프라이즈, HCI, 임베디드 등 다양한 분야에서 슈퍼마이크로의 글로벌 시장 입지 확대를 주도하고 있다.

과거 슈퍼마이크로, 브로드컴(Broadcom), 서버웍스(Serverworks)에서 시니어 마케팅 및 엔지니어링 직책을 역임했다. 미국 아이다호 대학교에서 전기공학 석사 학위, 인도 오스마니아 대학교에서 전자 및 통신공학 학사 학위를 취득했다.

김성민 슈퍼마이크로 FAE & 비즈니스 개발부문 상무로 슈퍼마이크로의 한국 비즈니스 부수석이다. 소프트웨어 스타트업에서 시작해 컴퓨터 하드웨어업계에서 경력을 쌓았으며 씨게이트와 인텔에서 프리세일즈(Pre-sales) 업무를 담당한 바 있다.

 

■ DLC를 적용해야 하는 이유는

DLC의 가장 큰 장점은 지속가능성이다. 오늘날 기업들은 그린컴퓨팅 목표달성과 ESG 규제 준수를 위해 노력하고 있지만 AI생산성을 높이면서도 탄소배출 감축은 쉽지 않다. DLC는 에너지효율성이 높고 전력소비가 적어 Scope 2와 Scope 3 감축에 기여한다는 것이 입증됐다.

또한 전력망에서 가져오는 수요를 절감하기 때문에 DLC도입 시 AI 팩토리 구축기간을 단축할 수 있다. 반면 기존방식으로 대규모 전력을 확보하려면 수년이 걸릴 수 있다.

DLC는 비용절감 측면에서도 효율적이다. DC냉각 옵션을 검토할 때 가장 중요한 요소 중 하나는 비용절감이다. DLC는 팬동력을 필요로 하지 않아 PUE를 낮추며 이로 인해 랙당 3년 동안 최대 6만67달러(약 8,650만원) 비용절감 효과를 낸다. 또한 전력수요를 최대 40%까지 줄일 수 있어 전력공급이 제한적인 지역에서는 필수적이다.

DLC는 운영측면에서도 다양한 이점을 제공한다. 예를 들어 DC를 공랭식으로 냉각한다면 CPU 및 GPU가 최대 작동온도에 도달하거나 근접할 경우 성능을 조절하는 ‘써멀 스로틀링(thermal throttling)이 일반적으로 작동한다. 써멀 스로틀링은 칩손상을 방지하는 역할을 하지만 동시에 DC성능을 저하시켜 애플리케이션 처리량 감소로 이어질 수 있다.

DLC를 적용하면 칩이 성능저하 없이 최대성능을 유지할 수 있어 공랭식에서 발생하는 다운타임 문제를 해소할 수 있다.

 

 

■ 슈퍼마이크로 DLC 솔루션은

슈퍼마이크로는 랙 스케일 수랭식 냉각기술이 적용된 AI 솔루션 개발과 공급을 선도하고 있다. DC에서 수랭식을 활용할 경우 전력소비와 운영비용을 절감하는 등 고객에게 부가적인 가치를 제공한다.

특히 슈퍼마이크로는 냉각분배장치(CDU)와 매니폴드(CDM), 냉각판, 냉각탑, 엔드투엔드 관리 소프트웨어를 포함하는 완전한 랙 스케일 수랭식 냉각솔루션을 선보이며 업계 리더십을 더욱 공고히 하고 있다.

해당 솔루션은 사용 중인 전력비용뿐만 아니라 초기 하드웨어 도입(Day 0)과 DC냉각인프라 구축비용 절감에 최적화됐다. 슈퍼마이크로는 DC규모 엔드투엔드 수랭식 냉각솔루션 전체를 독립적으로 제공한다.

슈퍼마이크로 수랭식 냉각솔루션 포트폴리오는 △콜드플레이트(Cold Plate) △매니폴드 △CDU △냉각탑 △소프트웨어 등으로 구성된다.

콜드플레이트는 차세대 GPU에 최적화됐으며 표면적이 가장 넓은 미세채널을 통해 액체가 흐르도록 설계돼 최대 1,600W 열을 효과적으로 방출할 수 있다. 매니폴드는 수직과 수평 모두에서 업계 최고수준 GPU 집적도를 자랑하며 랙당 최대 96개의 엔비디아 B200 GPU 탑재가 가능하다.

CDU는 250kW 냉각용량, 핫스왑 가능한 펌프, 전원공급장치를 탑재한 최첨단 랙 CDU 솔루션으로 시스템 다운타임을 최소화한다. 모듈형 냉각탑은 에너지효율적인 최신 EC팬 기술을 활용해 DLC 랙을 효과적으로 냉각하며 수일 내 출하 및 구축할 수 있어 실제 사용까지 걸리는 시간을 단축한다.

슈퍼클라우드 컴포저(SCC: SuperCloud Composer) 수명주기관리 소프트웨어는 시스템, 소프트웨어, 중앙제어장치, 랙, 냉각탑을 실시간으로 모니터링해 운영 비용을 최적화하며 수랭식 냉각 DC의 안정성을 유지한다.

 

슈퍼마이크로는 DLC기술 선두주자로서 그린컴퓨팅을 실현하기 위해 DC인프라 혁신을 이끌고 있다. 업계 최고권위 상을 수상한 것은 물론 1.1 미만의 PUE로 새로운 효율성 기준을 수립하며 혁신과 지속가능성분야에서 업계를 선도하고 있다.

슈퍼마이크로는 DLC솔루션을 모듈식 냉각탑, 슈퍼클라우드 컴포저 소프트웨어와 통합한 엔드투엔드 DC솔루션을 제공함으로써 클라우드서비스 제공업체(CSP)와 엔터프라이즈 고객이 보다 적은 자원으로 더 큰 성과를 거둘 수 있도록 지원한다. 이 솔루션을 통해 운영효율성을 극대화하고 환경영향을 최소화하며 실제 작동까지 시간을 단축할 수 있다.

DLC는 공랭식 냉각대비 다양한 장점이 있따. 인프라에 필요한 에너지를 최대 40%, 공간을 최대 80% 줄일 수 있어 기존 CRAC‧CRAH 필요성을 해소한다. 최대 45°C 온수냉각을 지원하며 AI시스템에서 발생된 열은 지역난방과 온실같은 용도로 재사용이 가능하다.

슈퍼마이크로는 HPC와 AI 워크로드의 요구를 충족하도록 설계된 포괄적인 DLC시스템을 개발했다. 이 엔드투엔드 솔루션은 실시간 모니터링과 최적화를 위해 슈퍼클라우드 컴포저 소프트웨어에 CDU와 매니폴드, 냉각판, 냉각탑 등을 통합한다. 최적의 성능과 지속가능성을 동시에 실현하는 차세대 DC솔루션을 제공하는 것이 슈퍼마이크로의 목표다.

 

 

■ DLC 적용시 주의점은

기존 공랭식 솔루션에서 수랭식 솔루션으로 전환하는 과정은 결코 쉽지 않다. 충분한 계획이 필수적이며 DC 관리자들이 원활하게 작업할 수 있도록 다양한 사항을 고려해야 한다.

먼저 기존 공랭식 효율성을 면밀히 평가하고 취약점을 파악하는 것이 중요하다. 이를 바탕으로 에너지절감, 냉각용량 강화, 환경영향 감소 등 명확한 목표를 설정해야 한다. 또한 전환에 필요한 예산을 사전에 계획해 비용을 예측하는 과정도 필수적이다.

이후 DC 특성에 가장 적합한 수랭식 냉각방식(액침냉각, DLC, 간접 수랭 등)을 신중히 선택해야 한다. 전환 과정에서 콜드플레이트, 펌프, 열교환기 등 인프라 업그레이드가 필요할 수 있으며 경험이 풍부한 공급기업과 협력하면 보다 원활하게 진행할 수 있다.

도입 및 테스트 단계도 중요하다. 수랭식 솔루션 도입 시 기존 운영에 미치는 영향을 최소화하면서 설치해야 한다. 또한 설치과정에서 철저한 테스트를 진행하고 유량조정 및 온도설정 등 최적화 작업을 거쳐 냉각성능을 극대화해야 한다.

이와 함께 새로운 수랭식 솔루션 운영 및 유지보수 방법에 대한 직원교육이 필수적이다. 정기적인 유지보수 일정을 수립해 시스템의 장기적인 안정성과 효율성을 유지하는 것도 중요하다.

 

 

■ DLC에 대한 요구사항 트렌드는

전 세계 고객과 협력하며 고객의 워크로드 요구사항에 적합한 시스템 포트폴리오를 설계하고 제조한다. 이 과정에서 고객의 워크로드와 SLA에 필요한 냉각을 공급할 계획이 없는 경우 차세대 랙과 서버를 지원할 방법에 대한 의문이 제기된다.

하지만 슈퍼마이크로는 자체적으로 수랭식 솔루션을 개발하기 때문에 전반적인 DC 빌딩블록과 고객에게 실제로 필요한 사항까지 논의할 수 있다. 슈퍼마이크로는 수랭식 냉각전문가를 보유하고 있어 고객과 긴밀히 협력해 컴퓨팅환경을 최적화하고 TCO를 절감할 수 있다.

한국에서도 업계표준 DLC기술을 찾는 고객들이 종종 있다. 하지만 HPC시장을 제외하면 DLC는 비교적 새로운 분야이며 모든 기업이 각기 다른 방식으로 접근하고 있다. 슈퍼마이크로의 경우 수직 통합된 토탈 턴키솔루션을 제공하고 있으며 이는 세계 최대규모의 AI 클러스터인 xAI Colossus를 비롯해 수많은 GPUaaS(서비스형 GPU) 제공업체로부터 입증된 바 있다.

 

 

■ 국내 DLC 사업전략은

슈퍼마이크로는 하드웨어 및 소프트웨어 측면 모두에서 빠르게 성장한 한국 AI시장을 일찍이 눈여겨봤다. 이에 따라 2021년 증가하는 수요에 대응하기 위해 전략적으로 한국시장 진출을 결정했다. 개방형 하드웨어 플랫폼의 선두주자인 슈퍼마이크로는 기존 국내고객과 협력을 강화하는 동시에 유망한 한국 AI 스타트업과의 새로운 기회에도 열려있다.

슈퍼마이크로는 토탈 턴키 솔루션 제공방식으로 접근하고 있으며 수직통합해왔다. OEM 및 ODM 경쟁사의 경우 각자의 관점에서 DLC의 단면을 다루고 있다. 이때 특정 방법론이 맞고 틀렸다고 볼 수는 없다. 슈퍼마이크로 또한 개방형 하드웨어플랫폼 제공기업으로서 경쟁사와 같은 방법론을 채택하기도 한다. 하지만 대부분의 경우 고객의 요구사항을 직접 해결할 수 있는 방식으로 접근한다.

 

■ 끝으로 하고 싶은 말이 있다면

실리콘밸리에 위치한 슈퍼마이크로의 빌딩21(Building 21)은 그린 컴퓨팅 인프라에 있어 선도적인 행보를 잘 보여준다. 이 시설은 청정 연료전지에너지를 사용하며 로봇을 포함한 자동화 프로세스로 인해 대규모 DC에 필요한 장비의 생산, 실험, 공급을 간소화할 수 있다.

에너지사용량 및 환경오염을 줄이는 데 중점을 둔 빌딩21을 통해 슈퍼마이크로는 향후 10년간 약 800만달러의 에너지비용을 절감할 수 있을 것으로 기대된다. 또한 슈퍼마이크로의 랙스케일 수랭식 냉각솔루션은 기존 냉각방식 필요성을 크게 낮추는데 중요한 역할을 한다. 그 결과 최대 30개의 화석연료발전소 건설을 하지 않아도 되며 최대 100억달러의 에너지비용을 절감할 수 있을 것으로 예상된다.

슈퍼마이크로는 그린컴퓨팅을 위한 부품을 설계 및 제공하는 데 있어 선두주자이다. 슈퍼마이크로는 전력소모가 적도록 설계됐으며 전체 시스템의 교체없이 하위부품만 업그레이드가 가능하도록 설계됐다.

이로 인해 전자폐기물을 줄이고 비용을 절감할 수 있다. 슈퍼마이크로의 그린컴퓨팅을 위한 노력은 최첨단 서버 및 스토리지 시스템으로 이어져 엔비디아, 인텔, AMD와 같은 업계 리더의 최신 CPU 및 GPU기술을 통합하고 있다. 슈퍼마이크로의 혁신적인 랙 스케일 수랭식 냉각옵션을 통해 DC 전력사용비용을 최대 40%까지 줄일 수 있다. 또한 엔비디아 HGX H100, H200, B200는 물론 AMD’s MI300X, MI325X와 같은 최신 GPU를 지원하는 GPU 서버를 통해 AI 워크로드의 요구사항을 충족한다.