在 GeForce RTX 3060 上启用 GPUDirect Storage（GDS）全记录
目标：在一台 GEM12 迷你主机（RTX 3060，经 OCuLink/M.2 显卡坞扩展）上启用 NVIDIA GPUDirect Storage（cuFile / nvidia-fs），让 NVMe SSD 直接 DMA 到 GPU 显存，绕开 CPU 中转。最终实测 GDS 读带宽拉到 5...
PPA的精打细算：NVIDIA 3nm Die-to-Die Link架构解析
引言Chiplet时代，Die-to-Die (D2D) 互连已经从一个学术课题变成了决定芯片系统能否成功的生命线。GPU要连HBM，CPU要连IO Die，逻辑Die要叠逻辑Die——每一对Die之间都有一条D2D link在默默搬运数据，而这条link的PPA（Performance, Powe...
GB200 NVL72 + GLM-5-FP8 成本深度拆解：从硬件折旧到每百万 Token 只需 38 元
随着大模型参数规模突破千亿，推理成本成为企业规模化落地的核心瓶颈。NVIDIA GB200 NVL72 机柜级系统凭借 72 张 B200 GPU 和 1.8TB/s NVLink 带宽，为 MoE（混合专家）模型提供了极致吞吐。本文将基于真实硬件和模型数据，一步步拆解部署 GLM-5-FP8 模型...