在 GeForce RTX 3060 上启用 GPUDirect Storage(GDS):userspace 方案
目标:在一台 GEM12 迷你主机(RTX 3060,经 OCuLink/M.2 显卡坞扩展)上启用 NVIDIA GPUDirect Storage(cuFile / nvidia-fs),让 NVMe SSD 直接 DMA 到 GPU 显存,绕开 CPU 中转。 结论先说:GeForce 上 ...
目标:在一台 GEM12 迷你主机(RTX 3060,经 OCuLink/M.2 显卡坞扩展)上启用 NVIDIA GPUDirect Storage(cuFile / nvidia-fs),让 NVMe SSD 直接 DMA 到 GPU 显存,绕开 CPU 中转。 结论先说:GeForce 上 ...
说明:本文记录的是早期的「内核补丁」方案(改 open kernel module 源码 + 禁用 GSP 固件)。后续验证发现,GDS(GPU↔NVMe)其实不需要改内核模块,改用纯用户态拦截 RM ioctl 补建 NV503C 对象即可。最终验证通过的 userspace 方案见:《在 Ge...
原文链接:知乎 - Guanlan 作者:Guanlan,Runta 创始人CEO,打造 Agent 原生 Infra 🔑 存储IO瓶颈要点总结这篇文章来自 ASPLOS 2026 的 AgenticOS Workshop,核心发现令人震惊: LLM 推理时间只占端到端延迟的 30%~40%...