NVIDIA 주문 생산

NVIDIA HGX B200

Blackwell 세대 플래그십 — 대규모 LLM 학습·추론용 8-GPU 베이스보드

HGX B200은 Blackwell 아키텍처 GPU 8장을 NVLink로 완전 연결한 베이스보드 모듈입니다. 조 단위 파라미터 모델의 학습과 실시간 추론을 단일 노드에서 처리하도록 설계되었습니다.

이전 세대 대비 추론 처리량이 크게 향상되어, 동일 랙 공간에서 더 많은 동시 요청을 감당할 수 있습니다. 대규모 클러스터 구축 시 전력·냉각 설계가 핵심이므로 도입 전 인프라 사전 검토를 함께 진행합니다.

사양

아키텍처	NVIDIA Blackwell
GPU 구성	8× B200 SXM
GPU 메모리	총 1,440GB HBM3e (GPU당 180GB)
메모리 대역폭	GPU당 8TB/s
NVLink	5세대, GPU당 1.8TB/s 양방향
폼팩터	HGX 베이스보드 (SXM)
권장 냉각	공랭 / 수랭 (구성별 상이)
지원 소프트웨어	NVIDIA AI Enterprise, CUDA, TensorRT