在线自蒸馏 (On-Policy Self-Distillation, OPSD):一种让同一大语言模型分别充当教师与学生,教师利用标准答案等特权信息,在学生自身生成轨迹上提供逐词分布监督的推理能力训练方法。

- 阅读剩余部分 -