在 GeForce RTX 3060 上启用 GPUDirect Storage(GDS):userspace 方案
目标:在一台 GEM12 迷你主机(RTX 3060,经 OCuLink/M.2 显卡坞扩展)上启用 NVIDIA GPUDirect Storage(cuFile / nvidia-fs),让 NVMe SSD 直接 DMA 到 GPU 显存,绕开 CPU 中转。 结论先说:GeForce 上 ...
目标:在一台 GEM12 迷你主机(RTX 3060,经 OCuLink/M.2 显卡坞扩展)上启用 NVIDIA GPUDirect Storage(cuFile / nvidia-fs),让 NVMe SSD 直接 DMA 到 GPU 显存,绕开 CPU 中转。 结论先说:GeForce 上 ...
说明:本文记录的是早期的「内核补丁」方案(改 open kernel module 源码 + 禁用 GSP 固件)。后续验证发现,GDS(GPU↔NVMe)其实不需要改内核模块,改用纯用户态拦截 RM ioctl 补建 NV503C 对象即可。最终验证通过的 userspace 方案见:《在 Ge...
引言Chiplet时代,Die-to-Die (D2D) 互连已经从一个学术课题变成了决定芯片系统能否成功的生命线。GPU要连HBM,CPU要连IO Die,逻辑Die要叠逻辑Die——每一对Die之间都有一条D2D link在默默搬运数据,而这条link的PPA(Performance, Powe...
随着大模型参数规模突破千亿,推理成本成为企业规模化落地的核心瓶颈。NVIDIA GB200 NVL72 机柜级系统凭借 72 张 B200 GPU 和 1.8TB/s NVLink 带宽,为 MoE(混合专家)模型提供了极致吞吐。本文将基于真实硬件和模型数据,一步步拆解部署 GLM-5-FP8 模型...