端侧 LLM 的PD分离技术之稀疏性

2024-09-09 | 技术 | 阅读

DejaVu
turbosparse
LLM in Flash
powerinfer2
TDA

https://zhuanlan.zhihu.com/p/717926933

本文标题：端侧 LLM 的PD分离技术之稀疏性

文章作者：王二

发布时间：2024-09-09

最后更新：2024-09-11

原始链接：https://wanger-sjtu.github.io/llm-sparse/

版权声明：本博客所有文章除特别声明外，均采用 BY-NC-SA 许可协议。转载请注明出处！