王二的数字花园

钱塘江上潮信来，今日方知我是我

最新文章

2026年04月24日

DeepSeek V4 Pro 技术报告解读

DeepSeek-V4：迈向高效百万 Token 上下文智能DeepSeek-AI research@deepseek.com 论文原文：[DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence](https...

#论文解读 #DeepSeek #MoE #长上下文

2026年04月13日

EXO 分布式AI推理系统 - 4+1架构视图

本文档使用 Philippe Kruchten 的 4+1 视图模型描述 EXO 分布式 AI 推理系统的软件架构。该系统是一个点对点的分布式推理集群，将多个设备连接起来运行大型语言模型（LLM）。文档概述本文档使用 Philippe Kruchten 的 4+1 视图模型描述 EXO 分布式 A...

系统架构 #分布式系统 #AI推理 #架构设计 #4+1视图 #EXO #libp2p #MLX

2026年04月10日

exo 模型加载与推理流程详解

exo 模型加载与推理流程详解📋 目录概述启动流程模型选择与实例创建模型下载 Runner 创建分布式初始化模型加载推理执行完整时序图故障处理概述exo 的模型加载和推理流程是一个复杂的多阶段过程，涉及多个组件的协作。本文档详细描述从启动 exo 到完成首次推理的完整流程。...

#exo

2026年04月10日

雷电接口（Thunderbolt）拓扑关系建立过程详解

📋 目录概述架构层次拓扑建立完整流程数据收集机制拓扑构建过程 RDMA连接建立故障恢复与高可用实战示例概述exo 系统通过 Thunderbolt 5 接口实现设备间的超低延迟通信（99%延迟降低），这种通信基于 RDMA over Thunderbolt 技术。拓扑关系的建立...

#exo

废话

04.23

端侧AI的正确姿势

端侧AI的正确姿势端侧大模型时候未到，先进行智能化改造，打造脚手架。 Bottom-up 建立最小化 AI 场景，连点成线搭建端侧智能。

#废话 #端侧AI #脚手架

04.19

MoE预取与稀疏

MoE 预取考验的是体系结构认识，稀疏是对算法架构的洞察。

#废话 #MoE #体系结构 #稀疏

04.14

黑暗森林的游戏规则

只追求及格线，往往及格都过不了。拼尽天赋追求满分极致，可能热情耗尽了，只想靠委屈妥协保住饭碗，往往不如你意。 AI附注：这是一个关于”度”的哲学思考。在目标设...

04.13

向量空间距离与FFN上限

向量空间距离度量方式限制了FFN大小的发展。所以MoE是当前的最优解。

#AI #MoE #FFN

04.13

黑暗森林的游戏规则

在一切均可 skill 的时代，过多暴露思路只会是黑暗森林里举着火把行走的人，变成 AI 的养料。欢迎进入黑暗森林的游戏规则，不要说话。

#废话