EXO 分布式AI推理系统 - 4+1架构视图
本文档使用 Philippe Kruchten 的 4+1 视图模型描述 EXO 分布式 AI 推理系统的软件架构。该系统是一个点对点的分布式推理集群，将多个设备连接起来运行大型语言模型（LLM）。 文档概述本文档使用 Philippe Kruchten 的 4+1 视图模型描述 EXO 分布式 A...
本文档使用 Philippe Kruchten 的 4+1 视图模型描述 EXO 分布式 AI 推理系统的软件架构。该系统是一个点对点的分布式推理集群，将多个设备连接起来运行大型语言模型（LLM）。 文档概述本文档使用 Philippe Kruchten 的 4+1 视图模型描述 EXO 分布式 A...