NVIDIA HGX AI 슈퍼컴퓨터

AI, 복잡한 시뮬레이션, 방대한 데이터세트에는 매우 빠른 상호 연결 및 완전히 가속화된 소프트웨어 스택을 지원하는 다중 GPU가 필요합니다. NVIDIA HGX™ AI 슈퍼컴퓨팅 플랫폼은 NVIDIA GPU, NVIDIA® NVLink®, NVIDIA 네트워킹의 완전한 성능과 NVIDIA NGC™ 카탈로그의 완전히 최적화된 NVIDIA AI 및 HPC 소프트웨어 스택을 결합하여 최고의 애플리케이션 성능을 제공하고 인사이트 획득 시간을 단축합니다.

NVIDIA HGX B200 및 HGX B100은 NVIDIA Blackwell Tensor 코어 GPU 를 고속 상호 연결과 통합하여 데이터센터를 새로운 시대로 이끌고 있습니다. 이전 세대보다 최대 15배 향상된 추론 성능을 갖춘 최고의 가속 스케일업 플랫폼인 Blackwell 기반 HGX 시스템은 가장 까다로운 생성형 AI, 데이터 분석 및 HPC 워크로드를 위해 설계되었습니다.

NVIDIA HGX H200은 H200 Tensor 코어 GPU를 고속 인터커넥트와 결합하여 모든 데이터센터에 탁월한 성능, 확장성 및 보안을 제공합니다. 최대 8개 GPU 구성은 독보적인 가속화를 실현하며, 놀라운 32페타플롭스 성능과 결합되어 세계에서 가장 강력한 AI 및 HPC용 가속 확장 서버 플랫폼을 구성합니다.

HGX H200과 HGX H100에는 최고의 AI 성능을 위해 NVIDIA Quantum-2 InfiniBand 및 Spectrum™-X 이더넷을 활용한 최대 400Gb/s 속도의 고급 네트워킹 옵션이 포함되어 있습니다. 또한 HGX H200 및 HGX H100에는 NVIDIA® BlueField®-3 데이터 처리 장치(DPU)도 포함되어 있어 하이퍼스케일 AI 클라우드에서 클라우드 네트워킹, 구성 가능한 스토리지, 제로 트러스트 보안, GPU 컴퓨팅 탄력성을 지원합니다.

데이터센터는 컴퓨팅의 새로운 단위이며 네트워킹은 전체 데이터센터에서 애플리케이션 성능을 확장하는 데 중요한 역할을 합니다. NVIDIA Quantum InfiniBand와 결합된 HGX는 컴퓨팅 리소스의 완전한 활용을 보장하는 세계적 수준의 성능과 효율성을 제공합니다.

이더넷을 배포하는 AI 클라우드 데이터센터의 경우 HGX는 400Gb/s 이더넷을 통해 최고의 AI 성능을 구현하는 NVIDIA Spectrum-X 네트워킹 플랫폼과 함께 사용하는 것이 가장 좋습니다. NVIDIA Spectrum™-4 스위치 및 BlueField-3 DPU를 갖춘 Spectrum-X는 최적의 리소스 활용 및 성능의 격리를 통해 모든 규모의 수천 개 동시 AI 작업에 대해 일관적이고 예측 가능한 결과를 제공합니다. Spectrum-X는 고급 클라우드 멀티 테넌시 및 제로 트러스트 보안을 지원합니다. NVIDIA는 NVIDIA Spectrum-X의 레퍼런스 디자인으로 NVIDIA HGX™ H200 Ehsms 100 8GPU 플랫폼, BlueField-3 DPU 및 Spectrum-4 스위치 기반의 Dell PowerEdge XE9680 서버로 구축된 하이퍼스케일 생성형 AI 슈퍼컴퓨터인 Israel-1을 디자인했습니다.

NVIDIA HGX는 4개의 H200 또는 H100 GPU 또는 8개의 H200, H100, B200 또는 B100 GPU가 탑재된 단일 베이스보드로 제공됩니다. 이러한 하드웨어와 소프트웨어의 강력한 조합은 전례 없는 AI 슈퍼컴퓨팅 플랫폼 성능의 토대가 됩니다.