NVIDIA 주문 생산
NVIDIA H200 SXM / NVL
Hopper 세대 — 141GB HBM3e로 대형 모델을 단일 GPU에 적재
H200은 H100 대비 메모리 용량과 대역폭을 크게 늘린 Hopper 세대 GPU입니다. 141GB HBM3e를 탑재해 모델 병렬화 없이도 대형 모델을 단일 GPU에 올릴 수 있어, 추론 파이프라인 구성이 단순해집니다.
SXM 모듈형과 PCIe NVL 폼팩터 모두 공급 가능합니다. 기존 H100 기반 인프라에서 점진적으로 확장하는 경우 NVL 구성이 도입 부담이 적습니다.
사양
| 아키텍처 | NVIDIA Hopper |
|---|---|
| GPU 메모리 | 141GB HBM3e |
| 메모리 대역폭 | 4.8TB/s |
| NVLink | 4세대, 900GB/s 양방향 |
| 폼팩터 | SXM5 / PCIe (NVL) |
| MIG 지원 | 최대 7개 인스턴스 분할 |
| 지원 소프트웨어 | NVIDIA AI Enterprise, CUDA, TensorRT |
주요 용도
LLM 추론 서빙 LLM 학습 멀티테넌트 GPU 풀
같은 카테고리의 다른 제품
NVIDIA 주문 생산
NVIDIA HGX B200
Blackwell 세대 플래그십 — 대규모 LLM 학습·추론용 8-GPU 베이스보드
- GPU 메모리
- 1,440GB HBM3e (8× 180GB)
- NVLink 대역폭
- 1.8TB/s per GPU
- 아키텍처
- Blackwell
NVIDIA 재고 보유
NVIDIA L40S
Ada 세대 범용 GPU — 추론·렌더링·가상화를 한 장으로
- GPU 메모리
- 48GB GDDR6 ECC
- 폼팩터
- PCIe Gen4 듀얼 슬롯
- 아키텍처
- Ada Lovelace
NVIDIA 재고 보유
NVIDIA RTX 6000 Ada
워크스테이션 최상위 — 48GB로 로컬 개발·렌더링 모두 커버
- GPU 메모리
- 48GB GDDR6 ECC
- 용도
- 워크스테이션
- 아키텍처
- Ada Lovelace