本课介绍

蒸馏利用教师模型提供的信息训练学生模型，量化改变数值的表示方式。本节分别演示学生参数的学习与低位编码、重建误差和实际打包，再把两种方法组合起来检查输出变化。课程重点区分参数数量、存储字节与运行速度，并说明压缩后为什么还需验证任务效果。

GEOBOK《生成式AI是怎么工作的》 · 选看3 · 主讲：无风即风