本课介绍

把前面学过的向量、位置和注意力放回完整结构，沿一个小型解码器模型走过归一化、注意力、残差连接和前馈网络，再观察分数怎样用于选择下一个词元。本节采用可复算的教学参数，重点说明各模块怎样连接，并简要区分常见的Transformer结构。

GEOBOK《生成式AI是怎么工作的》 · 第8课 · 主讲：无风即风