PD分离(Prefill‑Decode Disaggregation)技术详细分析
·PD 分离 Prefill Decode
AI评分 28深度16·仅据标题摘要二、PD 分离核心原理与完整工作流程整体架构分为三大组件:Prefill 集群(KV 生产者)、Decode 集群(KV 消费者)、调度路由与 ...
原文链接待收录
鹏博士研究院
2 篇扫描条目 · 追踪始于
自扫描同步 · 2 篇
文章列表
PD分离（Prefill‑Decode Disaggregation）技术详细分析
·PD 分离 Prefill Decode
AI评分 24深度11·仅据标题摘要PD 分离解耦计算密集 Prefill 与访存密集 Decode，是负载感知的推理架构创新。