云原生训推 / 算力成本 / 模型测评（makeup）

sogou·30 篇·当前显示 30 篇

09:00 Asia/Shanghai routine. WeRead login blocked. Sogou P0 OK. Makeup 15 + routine refresh 2.

关键词搜索在当前扫描内搜索标题、公众号或摘要

检索词

排序

文章列表

30 / 30

微信公众号·Kueue Volcano Gang Scheduling·已收录链接
质量分 32
把训练扔进 Kubernetes?先看清这5个被忽略的真相
深度16·结构·仅据标题摘要
非科班软件人的修养·2026-09-12
条反模式速查Kueue Gang Admission 误当 Gang Scheduling,准入但不保证同时放置,产生半死锁.正解:用 Volcano/KAI 真 gang....
打开原文 →
微信公众号·vLLM SGLang 推理·已收录链接
质量分 32
SGLang vs vLLM推理引擎的两种取舍
深度16·结构·仅据标题摘要
飞哥AI说·2026-09-10
图:两个推理引擎在同一张对照表上的位置一、两个立足点,一条... vLLM 与 SGLang 分别站在第一轮和第三轮的中心,却又同时覆盖...
打开原文 →
微信公众号·PD 分离 Prefill Decode·已收录链接
质量分 28
学习大模型推理的两个阶段:Prefill 与 Decode
深度16·仅据标题摘要
日习一技·2026-09-04
各配各的硬件,这就是 PD 分离(Prefill-Decode Disaggregation),OSDI 2024 上发表的 DistServe 是这条路线的代表作,近两年各家...
打开原文 →
微信公众号·PD 分离 Prefill Decode·已收录链接
质量分 29
闲话一张图看懂大模型推理过程 PD分离
深度13·结构·仅据标题摘要
南孜 AI Lab·2026-09-01
更偏持续、低延迟地“吐”.所以有了 PD 分离:P 节点专门做 Prefill,D 节点专门做 Decode,中间通过 KV Cache / 中间状态衔接....
打开原文 →
微信公众号·GPU 算力成本 MFU·已收录链接
质量分 29
AI基础设施与生态层之《算力:GPU (图形处理器)》
深度13·结构·仅据标题摘要
言和科创·2026-08-31
GPU位于算力层的核心,与CPU、NPU/TPU、FPGA、ASIC、高... ·PUE(Power Usage Effectiveness):总能耗 / IT设备能耗;·MFU(...
打开原文 →
微信公众号·Token 成本推理·已收录链接
质量分 28
解读LLM推理的GPU能耗真相:Token只是表面成本
深度13·仅据标题摘要
WebView社区·2026-09-02
当我们在讨论大语言模型(LLM)的推理成本时,目光通常聚焦在两个地方:一是云服务商按Token数量明码标价的API账单(如...
打开原文 →
微信公众号·模型评测 benchmark 独立复现·已收录链接
质量分 29
记忆评测的“测试金字塔”:为什么满分通过对话测试的智能体,真实用起来照样失忆?
深度13·仅据标题摘要
广州亿能测试技术服务有限公司·2026-09-06
我们的做法是评测数据全部写入独立的 benchmark 命名空间,清理时只清这个命名空间,绝不触碰智能体真实用户的记忆.这是存储...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 28
AI会考试作弊了,强到我们没法准确评测它有多聪明
深度13·仅据标题摘要
JohnNotes·2026-09-06
包括SWE-bench、WebArena、OSWorld、GAIA、Terminal-Bench、FieldWorkArena、CAR-bench,结论是每一个都能被利用拿到接...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 35
AI智能体近期新技术/新突破深度分析(2025下半年–2026)
深度16·论据·仅据标题摘要
走向人工智能世界·2026-09-06
SWE-bench、WebArena、TerminalBench、AgentBench、环境交互类基准成为主流;区分离线仿真评测、Harness 回归评测、生产轨...
打开原文 →
微信公众号·SWE-bench Arena·已收录链接
质量分 35
Qwen3.8-27B:27B开源模型碾压闭源旗舰
深度16·结构·仅据标题摘要
技术知行之路·2026-09-02
SWE-bench Pro(Agent编码)得分61.7,超过Qwen3.6-27B的53.5和Opus4.6 Max的53.4.DeepSWE 1.1得分42.2,是Qwen3.6-27B(13.3...
打开原文 →
微信公众号·昇腾国产卡 Day0·已收录链接
质量分 41
华为昇腾全线产品形态梳理:国产AI算力卡的产品形态与趋势
深度19·结构·仅据标题摘要
甲乙方AI说·2026-09-04
Day-0 原生2026 年 4 月 DeepSeek V4 发布,技术报告把华为昇腾... 要不要混插多家国产卡.要的话,重点考察跨架构调度软件栈,这...
打开原文 →
微信公众号·昇腾国产卡 Day0·已收录链接
质量分 38
千问、GLM、混元接连上新:FlagOS 四天三次 Day0,将前沿模型多芯适配变成可持续能力
深度16·结构·仅据标题摘要
智源研究院·2026-08-31
因此,Day0的真正价值并不只是“快一天”.它缩短的是前沿模... 华为昇腾、海光等芯片上通过不同的推理框架插件方式完成推理部...
打开原文 →
微信公众号·昇腾国产卡 Day0·已收录链接
质量分 38
国产AI芯片出货占比逼近80%!10万张国产卡扛住62T词元,英伟达中国收入归零
深度19·结构·仅据标题摘要
七号驿站·2026-08-31
preview的Day 0适配.摩尔线程走的是另一套技术栈——自研... DSA压缩机制一个个拆开了重写进昇腾的CANN架构.一块国产卡...
打开原文 →
微信公众号·昇腾国产卡 Day0·已收录链接
质量分 35
国产算力＂批量交付＂:从产品验证到规模化,这一步有多难?
深度16·结构·仅据标题摘要
纵观云智算·2026-09-08
年昇腾出货 81.2 万张,占国产总出货近一半(49.2%).2026 年 ... Day0 适配(同期发布的当天就能在国产芯片上跑通);华为 ...
打开原文 →
微信公众号·NVL72 GB200·已收录链接
质量分 37
一文看懂华为384超节点对比英伟达 GB200 NVL72
深度22·仅据标题摘要
跟沈工学AI·2026-09-09
以下是华为云矩阵384超节点(Supernode 384)与NVIDIA GB200 NVL72的架构、性能、互联、内存、功耗及能效对比:1. 对比表格...
打开原文 →
微信公众号·Kueue Volcano·已收录链接
质量分 29
在 Kubernetes 上构建 AI 工厂:把一屋子 GPU 变成一池共享算力
深度13·结构·仅据标题摘要
HAMi Project·2026-09-11
Kueue、Volcano、KAI Scheduler 等选择.HAMi 的态度是协同而不是替代:• 原生 kube-scheduler:开箱即用,适合单任务独立调度...
打开原文 →
微信公众号·Kueue Volcano·已收录链接
质量分 32
KubeCon China 2026 回顾:HAMi 两场 Keynote、一场闪电演讲,与一项案例大奖
深度16·结构·仅据标题摘要
dotNET跨平台·2026-09-13
Volcano、Kueue、KAI Scheduler 的协同;MIG、vGPU 等切分方案的选型;以及 fleet 规模的多租户 GPU 管理.观看与下载所有 ...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 33
React 即将推出 Compiler,是时候告别 useMemo/useCallback 了!
结构14·深度·仅据标题摘要
code秘密花园·2024年04月10日
API,手动微调 React 在状态变更时的渲染范围.但是,手动缓存更像是一种妥协.它让我们的代码变得混乱,容易出错,而且需要额...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 31
从底层逻辑聊日报设计与公司治理
深度16·仅据标题摘要
code秘密花园·2022年02月14日
偶尔也会微调不同职能线资源占比,只要不出问题,那么就会形成一个区间,比如:我们发现前后端的比例在3:7和5:5之间都不会出现...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 29
给 Code Agent 一个 Shell,究竟交出了什么权限
深度13·结构·仅据标题摘要
码田轶事·2026年09月05日
给 Code Agent 一个 Shell,究竟交出了什么权限上一篇,我们让 Agent 改了一处登录失败提示.它先读取文件,核对旧内容,再应用...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 32
魔搭社区模型速递(8.23-8.29)
深度16·结构·仅据标题摘要
ModelScope魔搭社区·2026年08月30日
魔搭ModelScope本期社区进展:4037个模型:GLM-5.3 系列、Qwen3.8-Flash-Next、Hy4 Preview、Zing-0.5、WeMM-Embedding、...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 19
魔搭社区每周速递(2.24-3.8)
深度10·仅据标题摘要
ModelScope魔搭社区·2024年03月09日
《顶会速递 | CVPR 2024 魔搭社区模型/创空间盘点(一)》、《社区供稿 | FunASR 语音大模型在 Arm Neoverse 平台上的优化实践》...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 35
MinerU 新表情上线!U雅人士聊天必备
深度16·结构·仅据标题摘要
OpenDataLab·2026年03月18日
全面深度适配主流国产算力,持续扩容生态版图2026-02-10MinerU再次更新,网页解析功能上线!URL一键变Markdown,文档处理再...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 22
一句话,让你的��看懂PDF,MinerU 官方 Skill 来了!附赠开发者“全家桶”
深度9·仅据标题摘要
OpenDataLab·2026年03月23日
一句话速览:MinerU 是一款开箱即用的免费文档解析引擎,现推出官方 Skills、双模式API、跨平台CLI/SDK、MCP Server及主流RAG...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 26
Palmier Pro:AI时代的Mac视频编辑器
深度13·仅据标题摘要
RobinDevNotes·2026年09月12日
摘要Palmier Pro 是一款为 Mac 打造的 AI 视频编辑器,用纯 Swift 原生开发,目标是做出「给 AI 智能体用的 Premiere Pro」.它把时...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 29
一个卖手工皂的故事---小程序商城
深度13·结构·仅据标题摘要
RobinDevNotes·2026年03月31日
三年前,阿梅在朋友圈卖手工皂.她每天早上六点起床打皂,下午找光线好的地方拍照,晚上一条一条回复＂还有吗＂“怎么付款”“...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 29
为什么AI训练工程师都要懂NCCL
深度13·结构·仅据标题摘要
RobinDevNotes·2026年09月08日
摘要训练一个大模型,从来不是一张卡的事情.当成百上千张 GPU 需要在每一步训练中同步梯度、对齐参数时,真正决定训练效率上...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 32
开源游戏引擎Godot正在悄然崛起
深度16·结构·仅据标题摘要
RobinDevNotes·2026年09月03日
摘要Godot 是一款完全免费、开源、跨平台的 2D/3D 游戏引擎,采用 MIT 协议,没有任何授权费、分成或订阅门槛.自 2023 年 Unity ...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 29
模型训练工程师必须搞懂的DDP和FSDP
深度13·仅据标题摘要
RobinDevNotes·2026年09月11日
摘要当模型大到一张 GPU 装不下、或者数据多到一张卡跑不动的时候,PyTorch 提供了两套分布式训练方案来解决这个问题:DDP(...
打开原文 →
微信公众号·用户指定追踪·已收录链接
质量分 32
每秒1.7万token的AI芯片:Taalas把Llama 3.1 8B直接写进硅片里
深度16·结构·仅据标题摘要
RobinDevNotes·2026年02月23日
加拿大初创公司Taalas近日推出了一款突破性AI推理芯片HC1,将Meta的Llama 3.1 8B大模型直接“硬编码”到硅片中,实现了惊人的...
打开原文 →

关闭

微信公众号

质量分 32深度16·结构·仅据标题摘要

每秒1.7万token的AI芯片:Taalas把Llama 3.1 8B直接写进硅片里

互动数据需从 wechatDownload 导出导入

公众号: RobinDevNotes
发布时间: 2026年02月23日
检索词: 用户指定追踪
原文: 查看原文 →（在新标签页打开）

加拿大初创公司Taalas近日推出了一款突破性AI推理芯片HC1,将Meta的Llama 3.1 8B大模型直接“硬编码”到硅片中,实现了惊人的...

打开原文

文章列表

把训练扔进 Kubernetes?先看清这5个被忽略的真相

SGLang vs vLLM推理引擎的两种取舍

学习大模型推理的两个阶段:Prefill 与 Decode

闲话 一张图看懂大模型推理过程 PD分离

AI基础设施与生态层 之《算力:GPU (图形处理器)》

解读LLM推理的GPU能耗真相:Token只是表面成本

记忆评测的“测试金字塔”:为什么满分通过对话测试的智能体,真实用起来照样失忆?

AI会考试作弊了,强到我们没法准确评测它有多聪明

AI智能体近期新技术/新突破深度分析(2025下半年–2026)

Qwen3.8-27B:27B开源模型碾压闭源旗舰

华为昇腾全线产品形态梳理:国产AI算力卡的产品形态与趋势

千问、GLM、混元接连上新:FlagOS 四天三次 Day0,将前沿模型多芯适配变成可持续能力

国产AI芯片出货占比逼近80%!10万张国产卡扛住62T词元,英伟达中国收入归零

国产算力＂批量交付＂:从产品验证到规模化,这一步有多难?

一文看懂华为384超节点 对比 英伟达 GB200 NVL72

在 Kubernetes 上构建 AI 工厂:把一屋子 GPU 变成一池共享算力

KubeCon China 2026 回顾:HAMi 两场 Keynote、一场闪电演讲,与一项案例大奖

React 即将推出 Compiler,是时候告别 useMemo/useCallback 了!

从底层逻辑聊日报设计与公司治理

给 Code Agent 一个 Shell,究竟交出了什么权限

魔搭社区模型速递(8.23-8.29)

魔搭社区每周速递(2.24-3.8)

MinerU 新表情上线!U雅人士聊天必备

一句话,让你的��看懂PDF,MinerU 官方 Skill 来了!附赠开发者“全家桶”

Palmier Pro:AI时代的Mac视频编辑器

一个卖手工皂的故事---小程序商城

为什么AI训练工程师都要懂NCCL

开源游戏引擎Godot正在悄然崛起

模型训练工程师必须搞懂的DDP和FSDP

每秒1.7万token的AI芯片:Taalas把Llama 3.1 8B直接写进硅片里

每秒1.7万token的AI芯片:Taalas把Llama 3.1 8B直接写进硅片里

闲话一张图看懂大模型推理过程 PD分离

AI基础设施与生态层之《算力:GPU (图形处理器)》

一文看懂华为384超节点对比英伟达 GB200 NVL72