归档
共 108 篇文章
2026
- vLLM Hybrid HiSparse 源码实现分析：KV Cache 内存管理深入拆解 技术
- GLM 5.3 优化（一）：vLLM 的 Hybrid HiSparse 混合稀疏卸载 技术
- vLLM HiSparse 本地 KV 卸载架构（附 SGLang HiSparse 对照） 技术
- 深入 Transformer 内部：一个 Token 的一生 技术
- SGLang HiCache 多级 KV 缓存实现剖析：分层结构、替换策略与异构 Attention 适配 技术
- 在 GeForce RTX 3060 上启用 GPUDirect Storage（GDS）：userspace 方案
- FreeToken hybrid MoE 后端：带宽比如何决定专家「搬」还是「算」
- 在 GeForce RTX 3060 上启用 GPUDirect Storage（GDS）全记录
- 资本开支悖论下的投资选择 转载
- PPA的精打细算：NVIDIA 3nm Die-to-Die Link架构解析
- Virtual Memory: Page Tables, TLBs, and Linux Internals
- DeepSeek-V4 论文逐页注解巡读
- SFT, RL 与 离线蒸馏：从分布视角理解后训练
- 大模型为什么"知道但说不出来"：从马嘉祺案例看 Token 切分与理解生成 技术
- 大模型推理夯实：并行策略图解 技术
- Perplexity 的 Agent Skills 设计之道 翻译转载
- Learning Beyond Gradients（超越梯度的学习） 论文解读
- 为什么 TDD 反而不是 AI 时代的答案 工程思考
- Building an AI-native engineering team
- GitHub Spec Kit 尝鲜：规格驱动开发让 AI 帮你写代码
- CAISI 对 DeepSeek V4 Pro 的评估
- 了解下 FlashInfer SKILLS 写法
- 你用AI效率翻倍了，为什么团队还是慢如蜗牛？AI Native组织的7个核心洞察
- 深入 Claude Code - AI Agent 系统设计空间
- 高维相似性查询基数估计 - PVLDB 2020
- RRAttention动态块稀疏注意力
- Q&C - 量化与缓存融合的高效生成
- SWARM - 多SSD协同激活感知的KVCache卸载
- 时间扩展的混合专家模型
- 向量检索的理论局限性分析 - ICLR 2026
- DeepSeek V4 Pro 技术报告解读
- EXO 分布式AI推理系统 - 4+1架构视图 系统架构
- exo 模型加载与推理流程详解
- 雷电接口（Thunderbolt）拓扑关系建立过程详解
- exo 功能列表
- exo 设备发现与连接建立机制详解
- mermaid图表测试
- Qwen3.5 Gated DeltaNet 核心机制解析
- Qwen3.5 核心架构解析：Gated DeltaNet 线性注意力机制
- 4万美金的H100都在等磁盘IO——Agent的真实瓶颈根本不是推理
- 翟东升 - 位置决定收入，天赋决定上限
- 顶会FAST'26解读｜ZUFS：旗舰手机的下一代存储革命
- Karpathy 的本地 AI 知识库，和我的实践
- Subagent 卡死排查：input tokens 的隐形天花板
- KK谈AI与裁员：惊喜才刚刚开始
- 推理LLM的强化学习现状 技术翻译
- GB200 NVL72 + GLM-5-FP8 成本深度拆解：从硬件折旧到每百万 Token 只需 38 元 技术分析
- 从微博热议到数据拆解：华为Mate 80系列的芯片良率之谜 产业观察
- 时间资产：比钱更狠的阶级分化，AI正在加速 随笔
- Heuristics 黄昏，Mechanism 迷途 随笔
- ContextPilot：基于上下文复用的长上下文推理加速方案 技术分析 论文解读
- 数学公式渲染测试 测试
- 一次有趣的 Bug 排查：桌面端深色模式切换失效 技术笔记
- 个人博客开发总结 - 从零到上线 技术笔记
2024
- 人口、自动化与权力：我们正滑向哪种未来？ 随笔
- SSD笔记 - 第六篇 结论 转载
- SSD笔记 - 第五篇 access pattern, 系统配置 转载
- SSD笔记 - 第四篇 FTL 其他功能及平行机制 转载
- ssd_notes_03 转载
- SSD笔记-第二篇SSD结构与性能评估概述 转载
- SSD笔记- 第一篇引言 转载
- fp16 的累加误差有多大 技术
- cuda_mode_1 技术
- 端侧 LLM 的PD分离技术之稀疏性 技术
- Nvidia 的快速反量化操作 技术
- Turbo Sparse paper
- kimi 长上下文 case 记录
- Nivdia向量数据库图检索最新标杆——CAGRA 技术
- RAG系统构建_技术文档中句子嵌入的挑战 技术
- Bi-encoder vs Cross encoder? When to use which one? 技术
- 【转载】一种编译期Map的实现 转载
- 【转载】爬虫如何通过二维码登录知乎 转载
- TK 学习法 闲聊
- 国内环境配置pyppeteer python
2023
- MLX 框架浅析 竞分
- 从向量数据库到 ANN search 技术
- L1 data 缓存为什么一般只有32K或者64K 技术
- ndk std_thread 获取pid 技术
- 了解LLM——LLM&& SD 基本概念 技术
- 了解LLM —— LoRA 技术
- TVM－MLC LLM 调优方案 技术
- TVM 源码阅读PASS — VectorizeLoop 技术
- SVE特性以及寄存器
- tir_to_llvm_ir
- Linux_shell中提取文件名和路径
- packfunc
- 【TVM教程】 自定义relay算子 技术
- 【TVM模型编译】2. relay算子构造 技术
- 【tvm解析】3. Operator Strategy 机制 技术
- tvm-多线程代码生成和运行 技术
- C++'s most vexing parse 技术
- 【TVM模型编译】1. onnx2relay 技术
- 【TVM模型编译】0.onnx模型优化流程.md 技术
- 利用 Github Actions 自动部署 Hexo 博客
2021
- C++初始化列表 技术
2019
- 初始化方法-基本到kaiming 技术
- 链表反转
- 柔性数组 技术
- C++构造函数 技术