2026-09-12 · 49 篇 · 49 条可开原文

2026年9月12日

云原生训推 / 算力成本 / 模型测评

sogou · weread·49 篇·当前显示 49 篇

真实扫描归档：每篇含公众号、发布时间、可点链接（搜狗中转或 mp 直链）

关键词搜索在当前扫描内搜索标题、公众号或摘要

检索词

排序

文章列表

49 / 49

微信公众号·Kueue Volcano Gang Scheduling·已收录链接
质量分 35
Kubernetes Workload-aware Scheduling 详解:从逐 Pod 调度到面向 AI 作业的整体调度
深度16·结构·仅据标题摘要
原生引擎·2026-09-11
Gang Scheduling 的替代品.它不会保证一批 Pod 同时获得资源.14. WAS、Kueue 与 Volcano 的关系这三者都可能出现在 AI 和批处...
打开原文 →
微信公众号·Kueue Volcano Gang Scheduling·已收录链接
质量分 31
知识分享 | AI时代的算力调度(5) 双层调度新范式:Kubernetes 管资源,Ray 管逻辑的共生演进
深度19·仅据标题摘要
京能数产·2026-09-07
AI原生调度的探索中,我们探讨了 Volcano 和 Kueue 如何借助“组调度(Gang Scheduling)”和“队列管理”机制,有效弥补了 ...
打开原文 →
微信公众号·Kueue Volcano Gang Scheduling·已收录链接
质量分 35
运维简历里的 K8s,怎么写才不像只会 kubectl?
深度16·结构·仅据标题摘要
小白IMao·2026-09-07
Gang Scheduling?Kueue 和 Volcano 怎么选?简历的本质,不是＂展示我会什么＂,而是＂告诉面试官,我愿意被你问什么＂.所以...
打开原文 →
微信公众号·Kueue Volcano Gang Scheduling·已收录链接
质量分 28
Kubernetes v1.37 今晚发布:DRA 持续成熟,Workload-Aware Scheduling 进入 Beta
深度16·仅据标题摘要
云原生探索号·2026-09-06
Kueue、Volcano 或自研调度器,最好先想清楚:准入排队、配额、Gang Scheduling、节点放置,分别由谁负责,避免两套系统管同...
打开原文 →
微信公众号·云原生 GPU 调度·已收录链接
质量分 32
云原生·进阶-14、GPU 为什么不能像 CPU 一样简单调度?
深度16·结构·仅据标题摘要
Codee君·2026-09-02
GPU 调度的最核心思维转变:GPU 调度被拆成了互不干涉的两个... 开发vlogGo开发者的云原生之路GolangMySQLAIGC友情链接:7...
打开原文 →
微信公众号·Kueue Volcano Gang Scheduling·已收录链接
质量分 34
Kubernetes v1.37 WAS 更新:Gang Scheduling 进入 Beta,调度开始理解“整组工作负载”
深度19·结构·仅据标题摘要
云原生探索号·2026-08-30
Gang Scheduling 和工作负载感知抢占进入 Beta,同时开始用 ... Kueue、Volcano 或自研调度系统,需要先明确职责边界:谁负责...
打开原文 →
微信公众号·Kueue Volcano Gang Scheduling·已收录链接
质量分 33
Volcano、Kueue、KAI Scheduler 到底怎么选
结构14·深度·仅据标题摘要
云原生运维技术·2026-08-29
Gang Scheduling(成组调度). 分布式训练的特点是:要么所有 ... Volcano 组合拳.Kueue 最大的好处是侵入性极低. 它不替换调度...
打开原文 →
微信公众号·PD 分离 Prefill Decode·已收录链接
质量分 28
LLM-学习笔记-25-Chunked Prefill 和 PD 分离
深度16·仅据标题摘要
庐山浙江潮·2026-09-10
关于PD分离(Prefill/Decode Separation)还有另一种针对 Prefill 和 Decode 不同特性进行优化的系统优化方法,叫做PD 分离.其思...
打开原文 →
微信公众号·PD 分离 Prefill Decode·已收录链接
质量分 28
PD分离(Prefill‑Decode Disaggregation)技术详细分析
深度16·仅据标题摘要
鹏博士研究院·2026-09-09
二、PD 分离核心原理与完整工作流程整体架构分为三大组件:Prefill 集群(KV 生产者)、Decode 集群(KV 消费者)、调度路由与 ...
打开原文 →
微信公众号·PD 分离 Prefill Decode·已收录链接
质量分 32
切错位置,跨卡要多传 4 GB:多模态把 PD 分离的两刀,逼成了三刀
深度16·仅据标题摘要
HyperAI·2026-09-08
的分离只有两刀:Prefill 算力重、Decode 带宽重,把它们打到不同硬件上是 PD 分离的经典解法,DeepSeek、Kimi、Qwen 都吃过这...
打开原文 →
微信公众号·PD 分离 Prefill Decode·已收录链接
质量分 29
LLM 推理性能优化:深入理解 Prefill/Decode 分离
深度13·结构·仅据标题摘要
ATinfo·2026-09-04
三、PD 分离到底拆了什么?PD 分离(Prefill/Decode Disaggregation) 将 LLM 推理的两个阶段解耦,部署到独立的资源池中:Prefill ...
打开原文 →
微信公众号·PD 分离 Prefill Decode·已收录链接
质量分 32
为什么需要 PD 分离:Prefill 与 Decode 的瓶颈、拆分与代价
深度16·结构·仅据标题摘要
指月小筑·2026-09-03
Prefill/Decode 分离(PD 分离)是把两类截然不同的计算负载拆到独立资源池中的方案.本文从问题出发,说明它解决什么、代价是什...
打开原文 →
微信公众号·PD 分离 Prefill Decode·已收录链接
质量分 26
Agent 时代,PD 分离裂开三道缝:AMPD、PPD、PrfaaS 怎么补
深度13·仅据标题摘要
HyperAI·2026-08-31
导读:当大模型的主业从「单次问答」变成「多轮 Agent 交互」,经典 PD 分离(把 Prefill 和 Decode 拆到不同机器)开始失灵....
打开原文 →
微信公众号·GPU 算力成本 MFU·已收录链接
质量分 38
万卡集群算力到底被谁吃了?——拆开 MFU、显存和 FP 精度的三本账
深度19·结构·仅据标题摘要
数网智栈·2026-09-08
算力跑到 3958 TFLOPS(BF16 是 1979)MFU 干到 40-45%总成本:约 2.8 万 H100 GPU 时 = $2/GPU·h ≈ $5.6M对比同行 $50M-100M...
打开原文 →
微信公众号·Token 成本推理·已收录链接
质量分 28
Token Factory:AI 推理的成本革命
深度16·仅据标题摘要
原力注入·2026-09-06
Token Factory:AI 推理的成本革命南京大学校友分享(2026 年 9 月)· 本文按 PPT 逐页配图讲解,全文围绕三个问题展开:Token ...
打开原文 →
微信公众号·Token 成本推理·已收录链接
质量分 32
AI推理的隐形瓶颈:Token成本正在决定企业AI的生死
深度16·结构·仅据标题摘要
每日新知张老师·2026-09-03
AI推理的隐形瓶颈:Token成本正在决定企业AI的生死一个过去需要专业团队完成的工作,正在被一个普通人重新定义.但真正的变...
打开原文 →
微信公众号·Token 成本推理·已收录链接
质量分 35
智谱中报落锤:10万张国产卡把单Token推理成本压低80%,但便宜的不只是芯片
深度16·结构·仅据标题摘要
Paper研究员·2026-09-01
单位Token推理成本较年初下降约80%.同期收入9.54亿元,同比增长近400%;开放平台及API收入8.25亿元,占比升至86.5%.云端...
打开原文 →
微信公众号·Token 成本推理·已收录链接
质量分 34
智谱半年报:Token成本降80%,营收翻4倍 | 巴伦港股
深度19·结构·仅据标题摘要
Barrons巴伦·2026-09-01
再加上全栈自研的工程优化把单位token推理成本较年初压低了80%,国产芯片也已经实现十万级规模化推理.量在涨、价在涨、成本...
打开原文 →
微信公众号·Token 成本推理·已收录链接
质量分 34
中金 | Token启示录(五):推理产业链深度-测算篇
深度19·结构·仅据标题摘要
中金点睛·2026-08-30
单位Token成本主要由单卡理论吞吐、算法增益、推理引擎工程达成率和集群利用率共同决定.模型架构与芯片能力设定理论成本边界...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 35
阿里开源 LoopArena:模型当调度员,最强也只拿 24.69%
深度16·结构·仅据标题摘要
大狗奇遇·2026-09-08
SWE-bench 这类基准只按最终仓库状态打分——任务跑完,最终评定打分.至于是＂调度得好＂还是＂模型本身强＂,是没办法区分...
打开原文 →
微信公众号·模型评测 benchmark 独立复现·已收录链接
质量分 36
＂大模型不说话,小模型却变聪明:一座隐藏状态桥的实验＂
深度13·论据·仅据标题摘要
AI项目造物局·2026-09-07
benchmark 上成立的结果,距离手机用户手里的稳定服务,往往还... 而在于是否经得起下一组模型、下一套任务和下一次独立复现....
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 33
终端Agent怎么评?这篇综述把模型、Harness和Benchmark拆成七维能力
深度13·论据·仅据标题摘要
AI帝国·2026-09-06
SWE-bench 一类把带测试的 issue 解决当成主范式;Terminal-Bench、TerminalWorld、LongCLI-Bench 更直接看命令、输出解释和 ...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 39
【论文日推】GPU集群调度|09.06
深度16·结构·仅据标题摘要
智算互联网络·2026-09-06
SWE-bench 与 WebArena 上,task completion time 降低 1.64*,SLO attainment 达 99.2%.arXiv https://arxiv.org/abs/2605.0052802...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 32
GPT-6来了,立摘ASI坐标系今日金牌!
深度16·结构·仅据标题摘要
Linux就该这样学·2026-09-05
SWE-bench 这些榜上,价格在各家定价页和 OpenRouter 上,社区在全球各处吵.同一张榜,单 Agent 和多 Agent 并行的分能差好几...
打开原文 →
微信公众号·模型评测 benchmark 独立复现·已收录链接
质量分 35
AI评测系列-A2-Benchmark是怎么被刷爆的榜单背后的猫腻
深度16·结构·仅据标题摘要
牛柳一家人·2026-09-03
benchmark 是一套固定的题 + 一套固定的评分规则,用来给模型「... │ 看第三方独立复测,别信自报测试集泄露 │ 评测用的样本,...
打开原文 →
微信公众号·模型评测 benchmark 独立复现·已收录链接
质量分 40
本期带你看懂Benchmark——基准测试
结构14·深度·仅据标题摘要
兼AI·2026-09-03
是benchmark(基准测试)的结果.各家模型厂商使用不同领域(... AI Agent在真实漏洞环境中的渗透测试、漏洞复现、攻防分析能力...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 35
Qwen3.8-Max-0902 登顶 Code Arena WebDev,输出价不到 Claude 四分之一
深度16·结构·仅据标题摘要
老王真心谈·2026-09-03
arena.ai 单项总榜拿第一.但分数打平、价格差 4 倍才是这轮发布... SWE-bench Pro 上 Qwen3.8-Max 得 67.7,仍落后 Claude Fable 5...
打开原文 →
微信公众号·模型评测 benchmark 独立复现·已收录链接
质量分 42
Frontier模型竞争转向能力、安全访问与运行时治理协同升级|大模型24小时情报
深度16·结构·仅据标题摘要
江豆林·2026-09-02
这些数字属于Anthropic自有测试,仍需独立复现.安全侧,Fable ... 均属厂商评测,不视为独立Benchmark.重点:Red Agent经...
打开原文 →
微信公众号·模型评测 benchmark 独立复现·已收录链接
质量分 36
既不交权重也不交题库:AI评测的双盲解法
深度13·论据·仅据标题摘要
阅读思考写作·2026-09-01
从未有外部模型评测方为保护 benchmark 完整性而拿到过明文的... 但单次构建不可独立复现,因为构建以私有签名密钥作为输入依赖 ...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 32
【智能体测评-04】主流Agent Benchmark全景拆解:GAIA、SWE-bench、WebArena、τ-bench、BrowseComp到底在测什么
深度16·仅据标题摘要
个人知识体系归档·2026-09-01
【智能体测评-04】主流Agent Benchmark全景拆解:GAIA、SWE-bench、WebArena、τ-bench、BrowseComp到底在测什么这是＂...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 31
GLM-5.3 编码实测
深度16·仅据标题摘要
敲代码的Joseph·2026-09-01
SWE-bench Pro 榜、SWE-marathon、FrontierSWE、PaperBench、Arena Frontend 等第三方榜单和独立实测均未检索到 GLM-5.3 条...
打开原文 →
微信公众号·模型评测 benchmark 独立复现·已收录链接
质量分 39
MoveBench:运动健康大模型评测基准
深度16·结构·仅据标题摘要
Keep 科学与技术·2026-08-31
专业且严谨的运动领域大模型评测基准与开放平台.运动健康并非... Benchmark 的可信度上限.为此设计了一套「场景—生成—审核...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 29
你以为 Agent 能干活,其实你根本测不出它行不行
深度13·结构·仅据标题摘要
frank说AI·2026-08-31
SWE-bench Verified 的分数了,理由是确认了评测集泄漏.WebArena 和 OSWorld 也好不到哪去,真实网页和桌面环境里,顶级系统...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 34
【智能体测评-03】测评的四个层次:从单元测试到生产观测
深度19·仅据标题摘要
个人知识体系归档·2026-08-31
GAIA、SWE-bench、WebArena、τ-bench、BrowseComp 这些公开 benchmark 到底在测什么、怎么评分的、有哪些已知漏洞、它们...
打开原文 →
微信公众号·昇腾国产卡 Day0·已收录链接
质量分 32
彭博社援引报道:16万颗昇腾950DT,180亿大单,国产芯片订单加速,宣告算力自主时代正式开启
深度16·结构·仅据标题摘要
冠朝之深藏功与名·2026-09-07
宣告了一个事实:国产算力正在从“备胎”走向“主力”,从“万... 昇腾超节点全系已实现Day 0原生支持DeepSeek V4全系列模型,...
打开原文 →
微信公众号·昇腾国产卡 Day0·已收录链接
质量分 35
国产芯片跑大模型到底行不行? 昇腾 + 开源模型的信创落地实测
深度16·结构·仅据标题摘要
开源大模型·2026-09-04
那国产的昇腾,顶不顶得上?网上的说法,那叫一个两极分化.有人说昇腾早就成熟了、DeepSeek 都能 Day 0 部署;也有人吐槽说坑...
打开原文 →
微信公众号·昇腾国产卡 Day0·已收录链接
质量分 39
Qwen3.8-27B 国产卡适配全景:昇腾已出官方教程,海光跑出 200tps,消费级 8GB 卡劝退
深度16·结构·仅据标题摘要
程序员fm·2026-09-02
国产卡适配全景:昇腾已出官方教程,海光跑出 200tps,消费级 8... Day0 适配,不是 27B.寒武纪、沐曦、昆仑芯、燧原对 27B 的具...
打开原文 →
微信公众号·昇腾国产卡 Day0·已收录链接
质量分 39
国产卡适配,42格填了7格
深度16·结构·仅据标题摘要
做个不油腻的猛男·2026-09-01
我把七家国产 AI 芯片(昇腾、昆仑芯、寒武纪、海光 DCU、摩尔... 款主流开源模型、覆盖 10 款芯片的跨芯 Day0 适配.一个数据点...
打开原文 →
微信公众号·昇腾国产卡 Day0·已收录链接
质量分 30
国产AI芯片的四个预期差
深度14·结构·仅据标题摘要
向上昇涨·2026-08-31
Day0 适配,＂说明AI算力生态的软件栈成熟度已经非常高,国产... 昇腾0Day支持,128K长序列TTFT
打开原文 →
微信公众号·vLLM SGLang·已收录链接
质量分 33
vLLM、TensorRT-LLM、SGLang、llama.cpp 初探:如何按硬件与负载选型?
结构14·深度·仅据标题摘要
二进制人生·2026-09-09
准备部署开源大模型时,很多人都会遇到同一个问题:vLLM、TensorRT-LLM、SGLang 和 llama.cpp,到底该选哪个?网上不缺性能...
打开原文 →
微信公众号·vLLM SGLang·已收录链接
质量分 29
当推理成为主战场:从 vLLM 与 SGLang 看 AI Infra 的投资逻辑
深度13·结构·仅据标题摘要
源博资本·2026-09-07
二、vLLM 和 SGLang 到底做了什么先把问题讲清楚,不然容易把这两个项目当成普通的性能优化工具.大模型的生成是自回归的:每...
打开原文 →
微信公众号·vLLM SGLang·已收录链接
质量分 29
SGLang 与 vLLM 的下半场:AI Infra 商业化 & 三点「非共识」
深度13·结构·仅据标题摘要
Jason的算法日志·2026-09-05
vLLM/SGLang 解决的是生成侧“请求如何高效跑起来”.RL 框架要把训练侧的参数分片重排成推理侧需要的 TP/EP 布局,再快速广...
打开原文 →
微信公众号·vLLM SGLang·已收录链接
质量分 31
GLM-5.3 实测:8*H20 上 SGLang 与 vLLM 谁更快?
深度16·仅据标题摘要
AI-K8S技术工程·2026-08-31
vLLM 在高并发和 1K Decode 上更快,SGLang 的 Reasoning、Tool Call、图片、Prefix Cache 和 OpenWebUI 功能闭环更完整.两套...
打开原文 →
微信公众号·GPU 算力成本 MFU·已收录链接
质量分 17
GPU利用率100%就是满血？别被骗了！大模型推理真正的“效率标尺”是MFU
结构6·仅据标题摘要
一研·5个月前
MFU 衡量模型浮点运算利用率，反映 GPU 实际利用比例和成本。
打开原文 →
微信公众号·模型评测 benchmark 独立复现·已收录链接
质量分 24
AI Benchmark 入门（五）：评测稳定性：benchmark 分数到底稳不稳、能不能复现
论据12·仅据标题摘要
SoTALab·3个月前
评测应追求分数可复现、可解释、可检查。
打开原文 →
微信公众号·昇腾国产卡 Day0·已收录链接
质量分 26
国产算力“接住”世界级大模型：DeepSeek V4发布，昇腾、摩尔线程等实现Day 0适配
深度11·仅据标题摘要
DOIT传媒·5个月前
摩尔线程与智源研究院基于 MTT S5000 完成 V4 双模型 Day0 适配。
打开原文 →
微信公众号·Kueue Volcano Gang Scheduling·已收录链接
质量分 24
Kubernetes 调度治理实战：Volcano 批处理调度、Gang Scheduling 与 Job 级拓扑治理
结构9·仅据标题摘要
云原生实践录·17天前
讨论批处理/AI 训练为何需要 Volcano、Gang Scheduling 与 Job 级拓扑治理。
打开原文 →
微信公众号·vLLM SGLang·已收录链接
质量分 28
SGLang 和 vLLM：大模型背后的“推理引擎”
深度13·仅据标题摘要
水金聊投资·2026-09-12
SGLang 和 vLLM 功能已高度重叠，不能简单理解为 PagedAttention 与 Prefix Cache 的区别。
打开原文 →
微信公众号·PD 分离 Prefill Decode·已收录链接
质量分 24
PD分离（Prefill‑Decode Disaggregation）技术详细分析
深度11·仅据标题摘要
鹏博士研究院·3天前
PD 分离解耦计算密集 Prefill 与访存密集 Decode，是负载感知的推理架构创新。
打开原文 →

微信公众号

质量分 24深度11·仅据标题摘要关闭

PD分离（Prefill‑Decode Disaggregation）技术详细分析

互动数据需从 wechatDownload 导出导入

公众号: 鹏博士研究院
发布时间: 3天前
检索词: PD 分离 Prefill Decode
原文: 查看原文 →（在新标签页打开）

PD 分离解耦计算密集 Prefill 与访存密集 Decode，是负载感知的推理架构创新。

打开原文

文章列表

Kubernetes Workload-aware Scheduling 详解:从逐 Pod 调度到面向 AI 作业的整体调度

知识分享 | AI时代的算力调度(5) 双层调度新范式:Kubernetes 管资源,Ray 管逻辑的共生演进

运维简历里的 K8s,怎么写才不像只会 kubectl?

Kubernetes v1.37 今晚发布:DRA 持续成熟,Workload-Aware Scheduling 进入 Beta

云原生·进阶-14、GPU 为什么不能像 CPU 一样简单调度?

Kubernetes v1.37 WAS 更新:Gang Scheduling 进入 Beta,调度开始理解“整组工作负载”

Volcano、Kueue、KAI Scheduler 到底怎么选

LLM-学习笔记-25-Chunked Prefill 和 PD 分离

PD分离(Prefill‑Decode Disaggregation)技术详细分析

切错位置,跨卡要多传 4 GB:多模态把 PD 分离的两刀,逼成了三刀

LLM 推理性能优化:深入理解 Prefill/Decode 分离

为什么需要 PD 分离:Prefill 与 Decode 的瓶颈、拆分与代价

Agent 时代,PD 分离裂开三道缝:AMPD、PPD、PrfaaS 怎么补

万卡集群算力到底被谁吃了?——拆开 MFU、显存和 FP 精度的三本账

Token Factory:AI 推理的成本革命

AI推理的隐形瓶颈:Token成本正在决定企业AI的生死

智谱中报落锤:10万张国产卡把单Token推理成本压低80%,但便宜的不只是芯片

智谱半年报:Token成本降80%,营收翻4倍 | 巴伦港股

中金 | Token启示录(五):推理产业链深度-测算篇

阿里开源 LoopArena:模型当调度员,最强也只拿 24.69%

＂大模型不说话,小模型却变聪明:一座隐藏状态桥的实验＂

终端Agent怎么评?这篇综述把模型、Harness和Benchmark拆成七维能力

【论文日推】GPU集群调度|09.06

GPT-6来了,立摘ASI坐标系今日金牌!

AI评测系列-A2-Benchmark是怎么被刷爆的榜单背后的猫腻

本期带你看懂Benchmark——基准测试

Qwen3.8-Max-0902 登顶 Code Arena WebDev,输出价不到 Claude 四分之一

Frontier模型竞争转向能力、安全访问与运行时治理协同升级|大模型24小时情报

既不交权重也不交题库:AI评测的双盲解法

【智能体测评-04】主流Agent Benchmark全景拆解:GAIA、SWE-bench、WebArena、τ-bench、BrowseComp到底在测什么

GLM-5.3 编码实测

MoveBench:运动健康大模型评测基准

你以为 Agent 能干活,其实你根本测不出它行不行

【智能体测评-03】测评的四个层次:从单元测试到生产观测

彭博社援引报道:16万颗昇腾950DT,180亿大单,国产芯片订单加速,宣告算力自主时代正式开启

国产芯片跑大模型到底行不行? 昇腾 + 开源模型的 信创落地实测

Qwen3.8-27B 国产卡适配全景:昇腾已出官方教程,海光跑出 200tps,消费级 8GB 卡劝退

国产卡适配,42格填了7格

国产AI芯片的四个预期差

vLLM、TensorRT-LLM、SGLang、llama.cpp 初探:如何按硬件与负载选型?

当推理成为主战场:从 vLLM 与 SGLang 看 AI Infra 的投资逻辑

SGLang 与 vLLM 的下半场:AI Infra 商业化 & 三点「非共识」

GLM-5.3 实测:8*H20 上 SGLang 与 vLLM 谁更快?

GPU利用率100%就是满血？别被骗了！大模型推理真正的“效率标尺”是MFU

AI Benchmark 入门（五）：评测稳定性：benchmark 分数到底稳不稳、能不能复现

国产算力“接住”世界级大模型：DeepSeek V4发布，昇腾、摩尔线程等实现Day 0适配

Kubernetes 调度治理实战：Volcano 批处理调度、Gang Scheduling 与 Job 级拓扑治理

SGLang 和 vLLM：大模型背后的“推理引擎”

PD分离（Prefill‑Decode Disaggregation）技术详细分析

PD分离（Prefill‑Decode Disaggregation）技术详细分析

国产芯片跑大模型到底行不行? 昇腾 + 开源模型的信创落地实测