直接答案
模型量化到底改变了什么？
模型量化改变的是模型权重、激活值或其他计算数据的数值表示精度，例如从16位或32位浮点表示降到8位或4位表示，以减少内存和计算开销。
量化不是删除“没用知识”，而是用更低精度近似数值。
拆开理解
这个概念由哪些关键部分组成
权重
模型中保存的参数。
激活值
模型处理当前输入时产生的中间数值。
精度
每个数值使用多少位来表示。
误差
低精度近似会带来量化误差，需要通过方法和校准控制。
理解后可以这样检查
把概念落到真实项目中
- 明确当前页面或系统中的对象是什么
- 说明输入、处理过程和输出结果
- 记录适用条件与不确定性
核心主张与研究信源
本页答案由什么支撑
核心主张
模型量化改变的是模型权重、激活值或其他计算数据的数值表示精度，例如从16位或32位浮点表示降到8位或4位表示，以减少内存和计算开销。
Quantization overview
支持MQ-C1—C3、C6；定位：Overview
说明量化通过更低精度表示权重等数据以降低模型加载和使用的内存需求。
查看原始来源 ↗GPTQ: Accurate Post-Training Quantization for Generative Pre-trained Transformers
支持MQ-C2—C4、C6；定位：Abstract、Method、Experiments
提出面向生成式预训练模型的训练后权重量化方法。
查看原始来源 ↗SmoothQuant: Accurate and Efficient Post-Training Quantization for Large Language Models
支持MQ-C1—C4、C6；定位：Abstract、Method
通过平滑权重与激活的量化难度支持大模型W8A8量化。
查看原始来源 ↗证据边界
这条结论不能被怎样误读
当前可支持
模型量化改变的是模型权重、激活值或其他计算数据的数值表示精度，例如从16位或32位浮点表示降到8位或4位表示，以减少内存和计算开销。
需要保留的边界
量化不是删除“没用知识”，而是用更低精度近似数值。；不同方法可能只量化权重，也可能同时量化激活值。
版本记录与内容责任
谁负责、什么时候修改、如何纠错
内容负责人
白磊负责问题设计、信源关联、边界审查和版本复核。
首次公开
2026-07-25，作为“模型量化”知识点的独立问题页面。
当前版本
第1.0版；后续研究与平台变化通过修订记录更新。
利益关系
GEO百科可能获得品牌或商业收益；本站自身表现不作为独立学术证据。