第13课|从输出分数到文字,回答怎样逐步生成?
本课介绍
固定模型参数后,沿一次生成过程观察输出分数怎样转成概率,如何选出下一个Token,再追加到上下文继续计算。课程还会区分结束标记、长度上限和界面流式显示,说明生成循环与训练更新的差别,以及词元概率能够解释到什么程度。
GEOBOK《生成式AI是怎么工作的》 · 第13课 · 主讲:无风即风
固定模型参数后,沿一次生成过程观察输出分数怎样转成概率,如何选出下一个Token,再追加到上下文继续计算。课程还会区分结束标记、长度上限和界面流式显示,说明生成循环与训练更新的差别,以及词元概率能够解释到什么程度。
GEOBOK《生成式AI是怎么工作的》 · 第13课 · 主讲:无风即风