B300 - 杭州海算信息科技有限公司

自由容器

NVIDIA Blackwell 架构

AI 推理时代 AI 工厂背后的引擎，现已全面投产。

自由容器

了解技术突破

打破生成式 AI 和加速计算的壁垒

探索 NVIDIA Blackwell 架构为生成式 AI 和加速计算带来的突破性进步。NVIDIA Blackwell 基于多代 NVIDIA技术构建，以出众的性能、效率和规模揭开了生成式 AI 领域的新篇章。

了解技术突破-1

深入了解技术突破

新型 AI 超级芯片

NVIDIA Blackwell 架构 GPU 具有 2080 亿个晶体管，采用专门定制的台积电 4NP 工艺制造。所有 NVIDIA Blackwell 产品均采用双倍光刻极限尺寸的裸片，通过 10 TB/s 的片间互联技术连接成一块统一的 GPU。

了解技术突破-2

第二代 Transformer 引擎将定制的 NVIDIA Blackwell Tensor Core 技术与 NVIDIA TensorRT™-LLM 和 NeMo™ 框架的创新结合，加速大语言模型 (LLM) 和多专家模型 (MoE) 的推理和训练。NVIDIA Blackwell Tensor Core 新增了由社区定义的新型微缩放格式作为新的精度选项，这一改进不仅提升了计算的准确性，还可在必要时可轻松切换至更高的精度级别。

与 NVIDIA Blackwell GPU 相比，NVIDIA Blackwell Ultra Tensor Core 可实现 2 倍的注意力层加速和 1.5 倍的 AI 计算 FLOPS。NVIDIA Blackwell Transformer 引擎采用了称为微张量缩放的细粒度缩放技术来优化性能和准确性，从而实现 4 位浮点 (FP4) AI。这一技术在保持高精度不变的同时，将内存能够支持的下一代模型的性能和规模均提升了 1 倍。

第二代 Transformer 引擎

了解技术突破-3

安全 AI

NVIDIA Blackwell 内置 NVIDIA 机密计算技术，可通过基于硬件的强大安全性保护敏感数据和 AI 模型，使其免遭未经授权的访问。NVIDIA Blackwell 是业内首款具备可信执行环境 (TEE) I/O 功能的 GPU，它不仅能够与具备 TEE-I/O 功能的主机一同提供性能卓越的机密计算解决方案，还能通过 NVIDIA NVLink™ 技术提供实时保护。

与未加密模式相比，NVIDIA Blackwell 机密计算功能供了几乎相同的吞吐量性能。现在，除了保护 AI 知识产权 (IP) 和安全地实现机密 AI 训练、推理和联邦学习，企业甚至还能以高性能的方式保护最大的模型。

了解技术突破-4

NVLink 和 NVLink Switch

是否能释放百亿亿级计算和万亿参数 AI 模型的全部潜力取决于服务器集群中每个 GPU 之间能否快速、顺畅的通信。第五代 NVIDIA® NVLink® 可扩展至 576 个 GPU，为万亿和数万亿参数 AI 模型释放加速性能。

NVIDIA NVLink 交换机芯片可在一个有 72 个 GPU 的 NVLink 域 (NVL72) 中实现 130TB/s 的 GPU 带宽，并通过 NVIDIA SHARP™ 技术对 FP8 的支持实现 4 倍于原来的带宽效率。NVIDIA NVLink 交换机芯片能以惊人的 1.8TB/s 互连速度为多服务器集群提供支持。采用 NVLink 的多服务器集群可以在计算量增加的情况下同步扩展 GPU 通信，因此 NVL72 可支持的 GPU 吞吐量是单个 8 卡 GPU 系统的 9 倍。

了解技术突破-5

解压缩引擎

过去，数据分析和数据库工作流依赖 CPU 进行计算。加速数据科学可以显着提高端到端分析性能，加速价值创造，同时降低成本。Apache Spark 等数据库在接手、处理和分析大量数据等数据分析工作上发挥着关键作用。

NVIDIA Blackwell 拥有的解压缩引擎以及通过 900GB/s 双向带宽的高速链路访问 NVIDIA Grace™ CPU 中大量内存的能力，可加速整个数据库查询工作流，从而在数据分析和数据科学方面实现更高性能。Blackwell 支持 LZ4、Snappy 和 Deflate 等最新压缩格式。

NVIDIA Blackwell 通过专用的可靠性、可用性和可服务性 (RAS) 引擎增加了智能恢复能力，以识别早期可能发生的潜在故障，从而更大限度地减少停机时间。NVIDIA AI 驱动的预测管理功能持续监控硬件和软件中数千个数据点的整体运行状况，以预测和拦截停机时间和低效的来源。

这建立了智能可靠性技术，节省时间、能源和计算成本。NVIDIA 的 RAS 引擎提供深入的诊断信息，可以识别关注领域并制定维护计划。RAS 引擎通过快速定位问题来源缩短周转时间，并通过促进有效的补救最大限度地减少停机时间。

可靠性、可用性和可服务性 (RAS) 引擎

规格

NVIDIA HGX 可以使用带有八个Hopper SXMs、八个NVIDIA Blackwell或NVIDIA Blackwell Ultra SXMs的单个主板。这些强大的硬件和软件组合为前所未有的AI超级计算性能奠定了基础。

NVIDIA Blackwell 架构

NVIDIA HGX规格

B参数

	HGX B300	HGX B200
Form Factor	8x NVIDIA Blackwell Ultra SXM	8x NVIDIA Blackwell SXM
FP4 Tensor Core**	144 PFLOPS \| 105 PFLOPS	144 PFLOPS \| 72 PFLOPS
P8/FP6 Tensor Core*	72 PFLOPS	72 PFLOPS
INT8 Tensor Core*	2 POPS	72 POPS
FP16/BF16 Tensor Core*	36 PFLOPS	36 PFLOPS
TF32 Tensor Core*	18 PFLOPS	18 PFLOPS
FP32	600 TFLOPS	600 TFLOPS
FP64/FP64 Tensor Core	10 TFLOPS	296 TFLOPS
Total Memory	Up to 2.3 TB	1.4 TB
NVLink	Fifth generation	Fifth generation
NVIDIA NVSwitch™	NVLink 5 Switch	NVLink 5 Switch
NVSwitch GPU-to-GPU Bandwidth	1.8 TB/s	1.8 TB/s
Total NVLink Bandwidth	14.4 TB/s	14.4 TB/s
Networking Bandwidth	1.6 TB/s	0.8 TB/s
Attention Performance	2X	1X

* With sparsity

** With sparsity | without sparsity

Hopper标题

NVIDIA Hopper 架构

Hopper参数

	HGX H200	HGX H100
Form Factor	8x NVIDIA H200 SXM	8x NVIDIA H100 SXM
FP8/FP6 Tensor Core*	32 PFLOPS	32 PFLOPS
INT8 Tensor Core*	32 POPS	32 POPS
FP16/BF16 Tensor Core*	16 PFLOPS	16 PFLOPS
TF32 Tensor Core*	8 PFLOPS	8 PFLOPS
FP32	540 TFLOPS	540 TFLOPS
FP64	270 TFLOPS	270 TFLOPS
FP64 Tensor Core	540 TFLOPS	540 TFLOPS
Total Memory	1.1 TB HBM3e	640 GB HBM3
GPU Aggregate Bandwidth	38 GB/s	27 GB/s
NVLink	Fourth generation	Fourth generation
NVIDIA NVSwitch™	NVLink 4 Switch	NVLink 4 Switch
NVSwitch GPU-to-GPU Bandwidth	900 GB/s	900 GB/s
Total NVLink Bandwidth	7.2 TB/s	7.2 TB/s
Networking Bandwidth	0.8 TB/s	0.8 TB/s

* With sparsity

访问NV官网

访问NVIDIA官网

整机合作伙伴

整机合作伙伴

一线服务器合作品牌，依托戴尔、华硕、惠普、超微、技嘉等品牌源头资源，

构建国际供应链，助您开启AI之旅！

参考规格

参考规格

智算集群节点主流规格，可定制化配置

NVIDIA B200 SERVER

H100配置

Unit	Configuration	Quantity
GPU	NVIDIA Umbriel GPU Baseboard, HGX B200 8-GPU 180GB HBMЗe	1
CPU	6960P 2P(72C/2.7G/500W,72C/2.3G/400W)(66C/2.6G/450W,48C/3.1G/450W)	2
Memory	96GB DDR5-6400 2Rx4 (24Gb) LP ECC RDIMM	24
Hard Disk	3.8TB NVMe PCle4.0 3D TLC U.3 15mm,1DWPD	4
Hard Disk	960GB NVMe PCle4x4 M.2 22x110mm 1DWPD SED 5YR	2
InfiniBand	900-9X766-003N-S00 1XNDR400G IB/EN OSFP Gen5x16 NoCrypto CX7	8
Network	900-9X7AH-0078-DTZstd 2x200G EN/IB QSPF112Gen5x16NoCryptCX7	2

*Reference Price：370,000$（Tax-Exclusive）

H200标题

NVIDIA H200 SERVER

H200配置

Unit	Configuration	Quantity
GPU	GPU-NVHGX-H200-8-GPU 141GB SXM5	1
CPU	Intel 8558 48C 2.1-4.0G 260MB 330W	2
Memory	64GB DDR5-5600 2Rx4 (16Gb) LP ECC RDIMM	32
Hard Disk	3.8TB NVMe PCle4.0 3D TLC U.3 15mm,1DWPD	4
Hard Disk	960GB NVMe PCle4x4 M.2 22x110mm 1DWPD SED 5YR	2
InfiniBand	900-9X766-003N-S00 1XNDR400G IB/EN OSFP Gen5x16 NoCrypto CX7	8
Network	900-9X7AH-0078-DTZstd 2x200G EN/IB QSPF112Gen5x16NoCryptCX7	2

*Reference Price：260,000$（Tax-Exclusive）

订购方式

如何获取

提供多种订购方式，支持信用证支付，确保资金安全

现货订购

签订合同

现场验证

支付货款

交付验收

签订合同

现场验证

货物到港

支付信用证

期货订购

交付验收