本课介绍

“猫追狗”和“狗追猫”使用相同的字，表达的关系却不同。本节沿着词元与位置的对应关系，演示一种加入位置信息的计算方式，并介绍绝对位置、相对位置与RoPE的基本思路，说明位置信息和因果遮罩各自解决什么问题。

GEOBOK《生成式AI是怎么工作的》 · 第6课 · 主讲：无风即风