标准定义
标准定义
大型语言模型是一类使用大规模数据和高容量神经网络学习语言序列统计规律的模型。现代LLM通常基于Transformer及其变体,通过预训练、指令微调和对齐方法完成文本生成、理解和多任务交互。
白话解释
它不是一座逐条保存答案的数据库,而是从大量数据中学习词语、概念和上下文之间的模式,再根据输入预测接下来最合适的内容。
适用范围
适用于文本生成、问答、摘要、翻译、代码、信息抽取、多模态交互和智能体核心模型。
不适用范围
模型输出不等于事实;参数规模也不自动代表更可靠、更安全或更适合特定任务。
主题图解
大型语言模型工作机制示意

HOW IT WORKS
核心机制
多源综合
研究现状、补充与修正
架构基线
Transformer以注意力机制改进序列建模与并行训练,成为现代LLM的重要基础。
规模与能力
GPT-3等研究展示规模化模型的少样本能力,但能力与错误会同时扩大,不能只看参数量。
治理共识
后续研究和NIST框架强调幻觉、偏差、隐私、安全、透明度与评测必须贯穿模型生命周期。
可核验事实
核心主张
定义
大型语言模型通过大规模预训练学习语言序列和上下文模式,并据此生成、分析或转换文本。
架构
Transformer的注意力机制和并行训练是现代大型语言模型的重要技术基础,但并不能代表所有系统的完整结构。
能力边界
扩大训练规模可以带来上下文学习和少样本能力,但这些能力并不会在所有任务、语言和场景中稳定出现。
对齐
指令微调和人类反馈可以改善模型的指令遵循和偏好对齐,但不能消除事实错误和安全风险。
风险治理
大型语言模型可能产生虚构信息、偏差、隐私和安全风险,因此需要系统评测、风险管理和人工监督。
Source → Version → Citation
证据与信源
Attention Is All You Need
提出Transformer及其注意力架构。
查看原始来源 ↗Language Models are Few-Shot Learners
展示大规模语言模型的上下文学习和少样本能力。
查看原始来源 ↗On the Opportunities and Risks of Foundation Models
系统讨论基础模型的能力、同质化风险和社会影响。
查看原始来源 ↗Training language models to follow instructions with human feedback
说明指令微调和人类反馈对行为的影响及其局限。
查看原始来源 ↗Artificial Intelligence Risk Management Framework: Generative AI Profile
提供生成式AI风险识别、测量和管理框架。
查看原始来源 ↗大模型落地路线图研究报告
用于补充中国大模型应用与工程落地背景,不替代原始学术证据。该报告用于补充中国大模型产业落地、知识增强、应用架构与治理语境。
查看原始来源 ↗平衡综述
当前共识与开放问题
相对一致的结论
- LLM能力来自数据、模型、训练方法和上下文共同作用。
- 更大模型不自动等于更可靠、更安全。
- 对齐、检索、评测和人工监督是互补措施。
尚待继续研究
- 如何稳定评估跨语言、跨领域和长期行为。
- 如何在性能、成本、隐私和可解释性之间权衡。
- 如何降低训练数据和模型输出中的系统性偏差。
Living Review
版本历史
页面内容Hash102dfa3f5d3e8ae7c6ef9c5737f9b9a459ee0c2c0c7a3d1d884b67738592f9f9
可验证信任
编辑责任、方法与利益关系
GEO百科编辑团队。事实性主张按信源、信源版本与Citation复核。
新证据触发新的修订记录;修改摘要、日期与Hash公开保留。
当前不虚构第三方引用、媒体背书或学术引用;仅登记完成URL核验的外部记录。
白磊负责知识点选题、中文表达、中英文信源整合与版本复核。
GEO百科使用大型语言模型辅助资料整理与页面生产,但所有公开Claim均应由可访问来源和人工编辑复核;模型输出本身不作为证据。
E-E-A-T 信任检查
这页内容为什么值得参考
E-E-A-T不是一句“我们很权威”的自我声明,而是经验、专业、外部认可和透明责任能否被读者独立检查。
本页把实战建议与研究结论分开:操作建议说明使用场景,未公开的内部数据不作为普遍结论。
内容负责人白磊负责知识架构、信源整合和版本复核;关键术语与结论回到原始研究、标准或官方文档。
本页连接6个可追踪证据入口及相关核心主张;自我介绍不替代独立来源和同行认可。
公开作者、首次发布日期、最近修改、版本、利益关系、纠错入口和历史修订记录;发现错误时不静默覆盖。
GEO百科自身是GEO实践项目,页面结构和内容可能为平台带来品牌或商业收益;本站自身表现不作为独立学术证据。