第14课|同一个问题为什么会得到不同回答?
本课介绍
先固定一组输出分数,再比较贪心选择、随机抽样、温度、Top-k和Top-p分别怎样影响候选词元。通过完整生成演示,观察一次选择如何改变后续上下文。本节也把输入、模型版本和产品配置纳入比较,说明为什么不能把所有回答差异都归因于随机性。
GEOBOK《生成式AI是怎么工作的》 · 第14课 · 主讲:无风即风
先固定一组输出分数,再比较贪心选择、随机抽样、温度、Top-k和Top-p分别怎样影响候选词元。通过完整生成演示,观察一次选择如何改变后续上下文。本节也把输入、模型版本和产品配置纳入比较,说明为什么不能把所有回答差异都归因于随机性。
GEOBOK《生成式AI是怎么工作的》 · 第14课 · 主讲:无风即风