LLM-学习笔记-25-Chunked Prefill 和 PD 分离
·PD 分离 Prefill Decode
AI评分 28深度16·仅据标题摘要关于PD分离(Prefill/Decode Separation)还有另一种针对 Prefill 和 Decode 不同特性进行优化的系统优化方法,叫做PD 分离.其思...
原文链接待收录
1 篇扫描条目 · 追踪始于
自扫描同步 · 1 篇
·PD 分离 Prefill Decode
AI评分 28深度16·仅据标题摘要关于PD分离(Prefill/Decode Separation)还有另一种针对 Prefill 和 Decode 不同特性进行优化的系统优化方法,叫做PD 分离.其思...
原文链接待收录