DeepSeek V4 Pro 技术报告解读
DeepSeek-AI research@deepseek.com 论文原文：DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence 模型权重：https://huggingface.co/collectio...
王二的数字花园
钱塘江上潮信来，今日方知我是我
最新文章
EXO 分布式AI推理系统 - 4+1架构视图
本文档使用 Philippe Kruchten 的 4+1 视图模型描述 EXO 分布式 AI 推理系统的软件架构。该系统是一个点对点的分布式推理集群，将多个设备连接起来运行大型语言模型（LLM）。 文档概述本文档使用 Philippe Kruchten 的 4+1 视图模型描述 EXO 分布式 A...
exo 模型加载与推理流程详解
exo 模型加载与推理流程详解📋 目录 概述 启动流程 模型选择与实例创建 模型下载 Runner 创建 分布式初始化 模型加载 推理执行 完整时序图 故障处理 概述exo 的模型加载和推理流程是一个复杂的多阶段过程，涉及多个组件的协作。本文档详细描述从启动 exo 到完成首次推理的完整流程。...
雷电接口（Thunderbolt）拓扑关系建立过程详解
📋 目录 概述 架构层次 拓扑建立完整流程 数据收集机制 拓扑构建过程 RDMA连接建立 故障恢复与高可用 实战示例 概述exo 系统通过 Thunderbolt 5 接口实现设备间的超低延迟通信（99%延迟降低），这种通信基于 RDMA over Thunderbolt 技术。拓扑关系的建立...