指月小筑

文章列表

• vLLM PD 分离实战:从请求流程理解 Prefill、Decode 与 KV Cache 传输

  2026-09-16T00:15:21.000Z·PD 分离 Prefill Decode

  AI评分 32深度16·结构·仅据标题摘要

  vLLM PD 分离实战:Prefill、Decode 与 KV Cache 传输上一篇介绍了为什么要把 Prefill 和 Decode 拆开.本文继续往下走,在单节点 ...

  原文链接待收录

• 为什么需要 PD 分离:Prefill 与 Decode 的瓶颈、拆分与代价

  2026-09-03·PD 分离 Prefill Decode

  AI评分 32深度16·结构·仅据标题摘要

  Prefill/Decode 分离(PD 分离)是把两类截然不同的计算负载拆到独立资源池中的方案.本文从问题出发,说明它解决什么、代价是什...

  原文链接待收录