直接答案
知识蒸馏是什么？
知识蒸馏是一种知识迁移方法：教师模型提供软目标、输出结果或中间表示，学生模型利用这些信号学习，在明确任务上尽量接近教师模型，同时使用更少的参数或更低的运行成本。
知识蒸馏不是把教师模型的全部参数复制给学生模型。
拆开理解
这个概念由哪些关键部分组成
教师模型
提供比普通标签更丰富的学习信号。
学生模型
容量更小，目标是在限定任务中保留关键能力。
迁移信号
可以是概率分布、生成结果或中间表示。
独立评测
验证学生是否真正接近教师，而不是只记住训练样本。
理解后可以这样检查
把概念落到真实项目中
- 明确当前页面或系统中的对象是什么
- 说明输入、处理过程和输出结果
- 记录适用条件与不确定性
核心主张与研究信源
本页答案由什么支撑
核心主张
知识蒸馏是一种知识迁移方法：教师模型提供软目标、输出结果或中间表示，学生模型利用这些信号学习，在明确任务上尽量接近教师模型，同时使用更少的参数或更低的运行成本。
证据边界
这条结论不能被怎样误读
当前可支持
知识蒸馏是一种知识迁移方法：教师模型提供软目标、输出结果或中间表示，学生模型利用这些信号学习，在明确任务上尽量接近教师模型，同时使用更少的参数或更低的运行成本。
需要保留的边界
知识蒸馏不是把教师模型的全部参数复制给学生模型。；蒸馏结果只在训练与评测覆盖的任务上有证据。
版本记录与内容责任
谁负责、什么时候修改、如何纠错
内容负责人
白磊负责问题设计、信源关联、边界审查和版本复核。
首次公开
2026-07-25，作为“知识蒸馏”知识点的独立问题页面。
当前版本
第1.0版；后续研究与平台变化通过修订记录更新。
利益关系
GEO百科可能获得品牌或商业收益；本站自身表现不作为独立学术证据。