微信公众号·RobinDevNotes
关闭为什么AI训练工程师都要懂NCCL
AI评分 29深度13·结构·仅据标题摘要互动数据需从 wechatDownload 导出导入
摘要训练一个大模型,从来不是一张卡的事情.当成百上千张 GPU 需要在每一步训练中同步梯度、对齐参数时,真正决定训练效率上...
2026年9月13日·sogou·当前显示 30 / 30 篇
09:00 Asia/Shanghai routine. WeRead login blocked. Sogou P0 OK. Makeup 15 + routine refresh 2.
30 / 30
微信公众号·RobinDevNotes
关闭互动数据需从 wechatDownload 导出导入
摘要训练一个大模型,从来不是一张卡的事情.当成百上千张 GPU 需要在每一步训练中同步梯度、对齐参数时,真正决定训练效率上...