本课介绍

有时我们更容易比较两个回答，而不是写出一份标准答案。本节从成对偏好出发，分别演示奖励模型参与优化与DPO直接使用偏好的路径，说明反馈怎样转成训练目标并更新参数。也会讨论奖励设计与数据偏差，以及为什么高分或受偏好的回答仍需核验。

GEOBOK《生成式AI是怎么工作的》 · 第12课 · 主讲：无风即风