云原生训推 / 算力成本 / 模型测评

2026年9月12日·sogou · weread·当前显示 49 / 49 篇

真实扫描归档：每篇含公众号、发布时间、可点链接（搜狗中转或 mp 直链）

在本次扫描中搜索

检索词

排序

文章列表

49 / 49

Kubernetes Workload-aware Scheduling 详解:从逐 Pod 调度到面向 AI 作业的整体调度
原生引擎·2026-09-11·Kueue Volcano Gang Scheduling·链接待补
AI评分 35
知识分享 | AI时代的算力调度(5) 双层调度新范式:Kubernetes 管资源,Ray 管逻辑的共生演进
京能数产·2026-09-07·Kueue Volcano Gang Scheduling·链接待补
AI评分 31
运维简历里的 K8s,怎么写才不像只会 kubectl?
小白IMao·2026-09-07·Kueue Volcano Gang Scheduling·链接待补
AI评分 35
Kubernetes v1.37 今晚发布:DRA 持续成熟,Workload-Aware Scheduling 进入 Beta
云原生探索号·2026-09-06·Kueue Volcano Gang Scheduling·链接待补
AI评分 28
云原生·进阶-14、GPU 为什么不能像 CPU 一样简单调度?
Codee君·2026-09-02·云原生 GPU 调度·链接待补
AI评分 32
Kubernetes v1.37 WAS 更新:Gang Scheduling 进入 Beta,调度开始理解“整组工作负载”
云原生探索号·2026-08-30·Kueue Volcano Gang Scheduling·链接待补
AI评分 34
Volcano、Kueue、KAI Scheduler 到底怎么选
云原生运维技术·2026-08-29·Kueue Volcano Gang Scheduling·链接待补
AI评分 33
LLM-学习笔记-25-Chunked Prefill 和 PD 分离
庐山浙江潮·2026-09-10·PD 分离 Prefill Decode·链接待补
AI评分 28
PD分离(Prefill‑Decode Disaggregation)技术详细分析
鹏博士研究院·2026-09-09·PD 分离 Prefill Decode·链接待补
AI评分 28
切错位置,跨卡要多传 4 GB:多模态把 PD 分离的两刀,逼成了三刀
HyperAI·2026-09-08·PD 分离 Prefill Decode·链接待补
AI评分 32
LLM 推理性能优化:深入理解 Prefill/Decode 分离
ATinfo·2026-09-04·PD 分离 Prefill Decode·链接待补
AI评分 29
为什么需要 PD 分离:Prefill 与 Decode 的瓶颈、拆分与代价
指月小筑·2026-09-03·PD 分离 Prefill Decode·链接待补
AI评分 32
Agent 时代,PD 分离裂开三道缝:AMPD、PPD、PrfaaS 怎么补
HyperAI·2026-08-31·PD 分离 Prefill Decode·链接待补
AI评分 26
万卡集群算力到底被谁吃了?——拆开 MFU、显存和 FP 精度的三本账
数网智栈·2026-09-08·GPU 算力成本 MFU·链接待补
AI评分 38
Token Factory:AI 推理的成本革命
原力注入·2026-09-06·Token 成本推理·链接待补
AI评分 28
AI推理的隐形瓶颈:Token成本正在决定企业AI的生死
每日新知张老师·2026-09-03·Token 成本推理·链接待补
AI评分 32
智谱中报落锤:10万张国产卡把单Token推理成本压低80%,但便宜的不只是芯片
Paper研究员·2026-09-01·Token 成本推理·链接待补
AI评分 35
智谱半年报:Token成本降80%,营收翻4倍 | 巴伦港股
Barrons巴伦·2026-09-01·Token 成本推理·链接待补
AI评分 34
中金 | Token启示录(五):推理产业链深度-测算篇
中金点睛·2026-08-30·Token 成本推理·链接待补
AI评分 34
阿里开源 LoopArena:模型当调度员,最强也只拿 24.69%
大狗奇遇·2026-09-08·SWE-bench Arena·链接待补
AI评分 35
＂大模型不说话,小模型却变聪明:一座隐藏状态桥的实验＂
AI项目造物局·2026-09-07·模型评测 benchmark 独立复现·链接待补
AI评分 36
终端Agent怎么评?这篇综述把模型、Harness和Benchmark拆成七维能力
AI帝国·2026-09-06·SWE-bench Arena·链接待补
AI评分 33
【论文日推】GPU集群调度|09.06
智算互联网络·2026-09-06·SWE-bench Arena·链接待补
AI评分 39
GPT-6来了,立摘ASI坐标系今日金牌!
Linux就该这样学·2026-09-05·SWE-bench Arena·链接待补
AI评分 32
AI评测系列-A2-Benchmark是怎么被刷爆的榜单背后的猫腻
牛柳一家人·2026-09-03·模型评测 benchmark 独立复现·链接待补
AI评分 35
本期带你看懂Benchmark——基准测试
兼AI·2026-09-03·模型评测 benchmark 独立复现·链接待补
AI评分 40
Qwen3.8-Max-0902 登顶 Code Arena WebDev,输出价不到 Claude 四分之一
老王真心谈·2026-09-03·SWE-bench Arena·链接待补
AI评分 35
Frontier模型竞争转向能力、安全访问与运行时治理协同升级|大模型24小时情报
江豆林·2026-09-02·模型评测 benchmark 独立复现·链接待补
AI评分 42
既不交权重也不交题库:AI评测的双盲解法
阅读思考写作·2026-09-01·模型评测 benchmark 独立复现·链接待补
AI评分 36
【智能体测评-04】主流Agent Benchmark全景拆解:GAIA、SWE-bench、WebArena、τ-bench、BrowseComp到底在测什么
个人知识体系归档·2026-09-01·SWE-bench Arena·链接待补
AI评分 32
GLM-5.3 编码实测
敲代码的Joseph·2026-09-01·SWE-bench Arena·链接待补
AI评分 31
MoveBench:运动健康大模型评测基准
Keep 科学与技术·2026-08-31·模型评测 benchmark 独立复现·链接待补
AI评分 39
你以为 Agent 能干活,其实你根本测不出它行不行
frank说AI·2026-08-31·SWE-bench Arena·链接待补
AI评分 29
【智能体测评-03】测评的四个层次:从单元测试到生产观测
个人知识体系归档·2026-08-31·SWE-bench Arena·链接待补
AI评分 34
彭博社援引报道:16万颗昇腾950DT,180亿大单,国产芯片订单加速,宣告算力自主时代正式开启
冠朝之深藏功与名·2026-09-07·昇腾国产卡 Day0·链接待补
AI评分 32
国产芯片跑大模型到底行不行? 昇腾 + 开源模型的信创落地实测
开源大模型·2026-09-04·昇腾国产卡 Day0·链接待补
AI评分 35
Qwen3.8-27B 国产卡适配全景:昇腾已出官方教程,海光跑出 200tps,消费级 8GB 卡劝退
程序员fm·2026-09-02·昇腾国产卡 Day0·链接待补
AI评分 39
国产卡适配,42格填了7格
做个不油腻的猛男·2026-09-01·昇腾国产卡 Day0·链接待补
AI评分 39
国产AI芯片的四个预期差
向上昇涨·2026-08-31·昇腾国产卡 Day0·链接待补
AI评分 30
vLLM、TensorRT-LLM、SGLang、llama.cpp 初探:如何按硬件与负载选型?
二进制人生·2026-09-09·vLLM SGLang·链接待补
AI评分 33
当推理成为主战场:从 vLLM 与 SGLang 看 AI Infra 的投资逻辑
源博资本·2026-09-07·vLLM SGLang·链接待补
AI评分 29
SGLang 与 vLLM 的下半场:AI Infra 商业化 & 三点「非共识」
Jason的算法日志·2026-09-05·vLLM SGLang·链接待补
AI评分 29
GLM-5.3 实测:8*H20 上 SGLang 与 vLLM 谁更快?
AI-K8S技术工程·2026-08-31·vLLM SGLang·链接待补
AI评分 31
GPU利用率100%就是满血？别被骗了！大模型推理真正的“效率标尺”是MFU
一研·5个月前·GPU 算力成本 MFU
AI评分 17
查看原文 →（在新标签页打开）
AI Benchmark 入门（五）：评测稳定性：benchmark 分数到底稳不稳、能不能复现
SoTALab·3个月前·模型评测 benchmark 独立复现
AI评分 24
查看原文 →（在新标签页打开）
国产算力“接住”世界级大模型：DeepSeek V4发布，昇腾、摩尔线程等实现Day 0适配
DOIT传媒·5个月前·昇腾国产卡 Day0
AI评分 26
查看原文 →（在新标签页打开）
Kubernetes 调度治理实战：Volcano 批处理调度、Gang Scheduling 与 Job 级拓扑治理
云原生实践录·17天前·Kueue Volcano Gang Scheduling
AI评分 24
查看原文 →（在新标签页打开）
SGLang 和 vLLM：大模型背后的“推理引擎”
水金聊投资·2026-09-12·vLLM SGLang
AI评分 28
查看原文 →（在新标签页打开）
PD分离（Prefill‑Decode Disaggregation）技术详细分析
鹏博士研究院·3天前·PD 分离 Prefill Decode
AI评分 24
查看原文 →（在新标签页打开）

微信公众号·Jason的算法日志

关闭

SGLang 与 vLLM 的下半场:AI Infra 商业化 & 三点「非共识」

AI评分 29深度13·结构·仅据标题摘要

互动数据需从 wechatDownload 导出导入

发布时间: 2026-09-05
检索词: vLLM SGLang

vLLM/SGLang 解决的是生成侧“请求如何高效跑起来”.RL 框架要把训练侧的参数分片重排成推理侧需要的 TP/EP 布局,再快速广...

原文中转链已失效

当前仅有搜狗临时跳转（会过期，微信内显示 Link expired）。请用微信搜标题打开，或等微信读书整号拉链回填永久 mp 链后再点「查看原文」。

微信公众号·Jason的算法日志

关闭

SGLang 与 vLLM 的下半场:AI Infra 商业化 & 三点「非共识」

AI评分 29深度13·结构·仅据标题摘要

互动数据需从 wechatDownload 导出导入

发布时间: 2026-09-05
检索词: vLLM SGLang

vLLM/SGLang 解决的是生成侧“请求如何高效跑起来”.RL 框架要把训练侧的参数分片重排成推理侧需要的 TP/EP 布局,再快速广...

原文中转链已失效

当前仅有搜狗临时跳转（会过期，微信内显示 Link expired）。请用微信搜标题打开，或等微信读书整号拉链回填永久 mp 链后再点「查看原文」。

文章列表

Kubernetes Workload-aware Scheduling 详解:从逐 Pod 调度到面向 AI 作业的整体调度

知识分享 | AI时代的算力调度(5) 双层调度新范式:Kubernetes 管资源,Ray 管逻辑的共生演进

运维简历里的 K8s,怎么写才不像只会 kubectl?

Kubernetes v1.37 今晚发布:DRA 持续成熟,Workload-Aware Scheduling 进入 Beta

云原生·进阶-14、GPU 为什么不能像 CPU 一样简单调度?

Kubernetes v1.37 WAS 更新:Gang Scheduling 进入 Beta,调度开始理解“整组工作负载”

Volcano、Kueue、KAI Scheduler 到底怎么选

LLM-学习笔记-25-Chunked Prefill 和 PD 分离

PD分离(Prefill‑Decode Disaggregation)技术详细分析

切错位置,跨卡要多传 4 GB:多模态把 PD 分离的两刀,逼成了三刀

LLM 推理性能优化:深入理解 Prefill/Decode 分离

为什么需要 PD 分离:Prefill 与 Decode 的瓶颈、拆分与代价

Agent 时代,PD 分离裂开三道缝:AMPD、PPD、PrfaaS 怎么补

万卡集群算力到底被谁吃了?——拆开 MFU、显存和 FP 精度的三本账

Token Factory:AI 推理的成本革命

AI推理的隐形瓶颈:Token成本正在决定企业AI的生死

智谱中报落锤:10万张国产卡把单Token推理成本压低80%,但便宜的不只是芯片

智谱半年报:Token成本降80%,营收翻4倍 | 巴伦港股

中金 | Token启示录(五):推理产业链深度-测算篇

阿里开源 LoopArena:模型当调度员,最强也只拿 24.69%

＂大模型不说话,小模型却变聪明:一座隐藏状态桥的实验＂

终端Agent怎么评?这篇综述把模型、Harness和Benchmark拆成七维能力

【论文日推】GPU集群调度|09.06

GPT-6来了,立摘ASI坐标系今日金牌!

AI评测系列-A2-Benchmark是怎么被刷爆的榜单背后的猫腻

本期带你看懂Benchmark——基准测试

Qwen3.8-Max-0902 登顶 Code Arena WebDev,输出价不到 Claude 四分之一

Frontier模型竞争转向能力、安全访问与运行时治理协同升级|大模型24小时情报

既不交权重也不交题库:AI评测的双盲解法

【智能体测评-04】主流Agent Benchmark全景拆解:GAIA、SWE-bench、WebArena、τ-bench、BrowseComp到底在测什么

GLM-5.3 编码实测

MoveBench:运动健康大模型评测基准

你以为 Agent 能干活,其实你根本测不出它行不行

【智能体测评-03】测评的四个层次:从单元测试到生产观测

彭博社援引报道:16万颗昇腾950DT,180亿大单,国产芯片订单加速,宣告算力自主时代正式开启

国产芯片跑大模型到底行不行? 昇腾 + 开源模型的 信创落地实测

Qwen3.8-27B 国产卡适配全景:昇腾已出官方教程,海光跑出 200tps,消费级 8GB 卡劝退

国产卡适配,42格填了7格

国产AI芯片的四个预期差

vLLM、TensorRT-LLM、SGLang、llama.cpp 初探:如何按硬件与负载选型?

当推理成为主战场:从 vLLM 与 SGLang 看 AI Infra 的投资逻辑

SGLang 与 vLLM 的下半场:AI Infra 商业化 & 三点「非共识」

GLM-5.3 实测:8*H20 上 SGLang 与 vLLM 谁更快?

GPU利用率100%就是满血？别被骗了！大模型推理真正的“效率标尺”是MFU

AI Benchmark 入门（五）：评测稳定性：benchmark 分数到底稳不稳、能不能复现

国产算力“接住”世界级大模型：DeepSeek V4发布，昇腾、摩尔线程等实现Day 0适配

Kubernetes 调度治理实战：Volcano 批处理调度、Gang Scheduling 与 Job 级拓扑治理

SGLang 和 vLLM：大模型背后的“推理引擎”

PD分离（Prefill‑Decode Disaggregation）技术详细分析

SGLang 与 vLLM 的下半场:AI Infra 商业化 & 三点「非共识」

SGLang 与 vLLM 的下半场:AI Infra 商业化 & 三点「非共识」

国产芯片跑大模型到底行不行? 昇腾 + 开源模型的信创落地实测