全部文章
按主要论述浏览文章，分类与主题标签由 AI 生成，仅供参考。
共 42930 篇文章
从新到旧
直播预告！聊聊 RL-Kernel ，大模型 RL 后训练中的训推一致性实践
模型 RL 后训练中，Rollout 与 Training 往往由不同引擎执行。即使模型、权重和 token 完全相同，仍可能因浮点归约顺序、并行分片、通信合并树及精度转换边界不同，产生 LogP 偏差，进而影响 PPO/GRPO 的 importance ratio、clipping 与训练稳定性。
未分类关于 Score Centering 的五种解释：drift、BPO、理想 baseline、STE、局部分布族
最近的 Score Centering 居然有整整五种解释方法🫠🫠🫠每一个角度都很有趣！本文详细整理了五个解释 Score Centering（SC）的角度，而且每个都附上了出处链接。本文就是：「五等分的 Score Centering」。😉
未分类向DeepSeek V4.1-Flash-1017许愿，让大模型数理原理动起来
DeepSeek V4.1-Flash-1017突然周末发布，承诺许愿编程一键成真。笔者大喜，随手许了个 “让大模型数理原理动起来”。
未分类