深度13·结构·仅据标题摘要
·vLLM SGLang
vLLM/SGLang 解决的是生成侧“请求如何高效跑起来”.RL 框架要把训练侧的参数分片重排成推理侧需要的 TP/EP 布局,再快速广...
1 篇扫描条目 · 追踪始于
自扫描同步 · 1 篇
x-fetcher 仅支持单篇 mp URL。对已收录链接运行:
node scripts/download-account-bodies.mjs --account "Jason的算法日志"
深度13·结构·仅据标题摘要
·vLLM SGLang
vLLM/SGLang 解决的是生成侧“请求如何高效跑起来”.RL 框架要把训练侧的参数分片重排成推理侧需要的 TP/EP 布局,再快速广...